“Algo inacreditável está acontecendo na inteligência artificial neste momento — e não é inteiramente para o bem”, escreveu seis meses atrás Gary Marcus, professor emérito da Universidade de Nova York (NYU), nos Estados Unidos, e uma das principais vozes no debate sobre a IA na atualidade.
Em sua visão, o lançamento do ChatGPT nos está levando ao “momento Jurassic Park” das máquinas: a possibilidade — como no filme de Steven Spielberg — de que a situação fuja do controle.
“Quando escrevi esse artigo, acho que as pessoas pensaram que eu era louco ou alarmista”, afirmou Marcus, em entrevista à BBC News Brasil.
A esposa sustenta que o contato com o programa o levou a tirar a própria vida. Para o governo belga, o caso é “um precedente que deve ser levado a sério” e “o perigo do uso [de inteligência artificial] é uma realidade que precisa ser considerada”.
Foi um cenário possível descrito quatro meses antes por Marcus em artigo para a revista Wired: “Talvez um chatbot vá magoar alguém tão profundamente que a pessoa será levada a acabar com a sua vida? (…) Em 2023, nós talvez vejamos nossa primeira morte por um chatbot”.
“Acho que esses sistemas podem ser muito destrutivos. E parte do motivo do potencial de destruição é que eles não são confiáveis. Esses programas podem inventar algo e dizer [a um usuário] que isso é um fato. E eles também podem ser usados por pessoas com essa finalidade”, diz.
“Os sistemas de inteligência artificial que temos agora não são bem controlados. Ainda não é uma situação terrível, mas as pessoas estão dando mais e mais poderes a eles. E não sabemos o que esses sistemas podem executar em uma determinada situação.”
Confira a matéria completa na BBC Brasil.
