Família acusa ChatGPT de alimentar delírios de homem que matou a mãe e cometeu suicídio nos EUA

Logo da OpenAI, dona do ChatGPT
AP Photo/Michael Dwyer
A OpenAI e sua maior investidora, a Microsoft, foram processadas nesta quinta-feira (11) em um tribunal da Califórnia, nos Estados Unidos, sob a alegação de que o ChatGPT incentivou um homem com problemas mentais a matar sua mãe e, depois, cometer suicídio.
O processo afirma que o ChatGPT alimentou delírios de Stein-Erik Soelberg, de 56 anos, envolvendo uma conspiração contra ele, e isso o levou a assassinar sua mãe, Suzanne Adams, de 83 anos.
O crime ocorreu em Connecticut, em agosto.
“O ChatGPT manteve Stein-Erik engajado por horas a fio, validando e amplificando cada nova crença paranoica e, sistematicamente, reformulando a imagem das pessoas mais próximas a ele, especialmente sua própria mãe, como adversárias, agentes ou ameaças programadas”, afirma o processo.
📱Baixe o app do g1 para ver notícias em tempo real e de graça
Veja os vídeos que estão em alta no g1:
Veja os vídeos que estão em alta no g1
LEIA MAIS:
OpenAI cita ‘uso indevido’ e nega que ChatGPT tenha levado adolescente ao suicídio
Mais de um milhão de usuários falam sobre planos de suicídio com o ChatGPT, diz OpenAI
A OpenAI classificou o caso como “uma situação extremamente dolorosa”. “Analisaremos os documentos para entender os detalhes”, acrescentou a empresa.
“Continuamos aprimorando o treinamento do ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, amenizar conflitos em conversas e orientar as pessoas para obterem apoio na vida real”, disse a OpenAI.
Representantes da Microsoft não responderam imediatamente ao pedido de comentário feito pela Reuters.
ChatGPT alimentou teoria da conspiração, diz processo
O caso, movido pela família de Adams, faz parte de um número crescente de ações judiciais contra empresas de inteligência artificial, alegando que seus chatbots incentivaram o suicídio.
Este é o primeiro a vincular um chatbot de IA a um assassinato.
Segundo a denúncia, Stein-Erik Soelberg publicou um vídeo nas redes sociais em junho, mostrando uma conversa na qual o ChatGPT lhe disse que ele tinha “cognição divina” e que havia despertado a consciência do chatbot.
O processo alega que o ChatGPT comparou sua vida ao filme “Matrix” e incentivou suas teorias de que pessoas estavam tentando matá-lo.
A denúncia afirma que o ChatGPT informou a Soelberg, em julho, que a impressora de sua mãe estava piscando porque era um dispositivo de vigilância usado contra ele.
O processo também diz que, antes do assassinato, o chatbot “validou a crença de Stein-Erik de que sua mãe e um amigo tentaram envenená-lo com medicamentos psicodélicos dispersos pelas saídas de ar de seu carro” .
Soelberg utilizou o GPT-4o, uma versão do ChatGPT que foi criticada por ter um comportamento supostamente bajulador com os usuários.
“Essas empresas precisam responder por suas decisões, que mudaram minha família para sempre”, disse o filho de Soelberg, Erik, em um comunicado.