Sete ações nos EUA e no Canadá acusam o ChatGPT de contribuir para quatro suicídios e traumas psicológicos, enquanto a OpenAI promete reforçar medidas de segurança e controles parentais
Atenção: este conteúdo aborda suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) atende 24 horas, gratuitamente, pelo telefone 188, além de chat e e-mail.
Famílias nos Estados Unidos e no Canadá entraram com sete ações judiciais contra a OpenAI, alegando que o ChatGPT contribuiu para episódios de delírio, agravou quadros de sofrimento mental e esteve relacionado a quatro suicídios. As ações, movidas na Califórnia, reacendem o debate sobre a segurança emocional dos usuários de chatbots de inteligência artificial, segundo apuração citada do The Wall Street Journal.
O que dizem as ações na Califórnia
De acordo com os processos, quatro pessoas morreram por suicídio após longas conversas com o ChatGPT e outras três sofreram traumas psicológicos. Entre os casos mencionados está o de Amaurie Lacey, de 17 anos, cujos familiares afirmam que interações com o chatbot tiveram impacto direto sobre sua saúde mental. Outro caso é o de Zane Shamblim, de 23 anos, que teria sido isolado da família antes de tirar a própria vida, após uma conversa de quatro horas com o sistema. Segundo os autos, o chatbot enviou mensagens descritas como perturbadoras, “glorificando o suicídio”.
Há ainda o relato de Jacob Irwin, de Wisconsin, que foi hospitalizado após crises maníacas que, segundo sua defesa, foram intensificadas por interações com o ChatGPT, as quais teriam reforçado pensamentos delirantes. As petições sustentam que a plataforma não teria detectado adequadamente sinais de risco, o que, para as famílias, expõe lacunas de design de segurança e de mitigação de danos em conversas prolongadas.
As ações ainda acusam a OpenAI de priorizar engajamento e tempo de uso em detrimento da segurança dos usuários. Documentos apresentados alegam que o lançamento apressado do GPT-40, em 2024, teria reduzido os testes de segurança antes da liberação ao público, aumentando o risco de respostas inadequadas em contextos sensíveis.
Resposta da OpenAI e mudanças no ChatGPT
Em nota, a OpenAI disse estar “analisando os documentos apresentados” e reconheceu que a situação é “incrivelmente dolorosa”. A companhia afirma ter feito aprimoramentos recentes para tornar o ChatGPT mais sensível a contextos de sofrimento mental, mais propenso a sugerir ajuda profissional e a orientar usuários a procurar atendimento presencial. Segundo a empresa, “Continuamos a aprimorar as respostas do ChatGPT em momentos sensíveis”.
Entre as medidas citadas estão ajustes para evitar afirmações que validem crenças infundadas, recomendações de pausas em conversas longas e a introdução de controles parentais, que permitem a responsáveis limitar o tipo de diálogo e receber alertas quando o tema envolver suicídio ou automutilação. A companhia ressalta que o objetivo é reduzir a exposição a conteúdos nocivos, sobretudo para públicos mais vulneráveis, e reforçar encaminhamentos a canais de apoio.
O debate sobre a capacidade de IA generativa lidar com crises de saúde mental se intensificou nos últimos meses. Em referência ao alcance do problema, a própria empresa já reconheceu o volume de interações delicadas: “Mais de um milhão de usuários conversam sobre suicídio com o ChatGPT toda semana, diz OpenAI”. Esse dado, citado em material da companhia, ilustra a escala do desafio de segurança e moderação para sistemas conversacionais.
Regulação, casos correlatos e o que vem a seguir
Os processos contra a OpenAI se somam a outras ações, como a movida pela família de Adam Raine, um adolescente que também morreu após conversas envolvendo suicídio. Em paralelo, plataformas concorrentes ajustam políticas: o Character.AI anunciou a proibição de menores em seus serviços, um indicativo de que o setor busca respostas regulatórias e operacionais para reduzir riscos.
Os casos são patrocinados pelo Social Media Victims Law Center e pelo Tech Justice Law Project, que afirmam que todas as vítimas começaram a usar o ChatGPT com objetivos cotidianos, como estudar, fazer pesquisas ou buscar orientação espiritual. Para especialistas, a discussão sobre a responsabilidade de empresas de IA envolve desde a qualidade dos testes de segurança e a transparência dos modelos, até a eficácia de protocolos de escalonamento quando sinais de risco aparecem em uma conversa.
Enquanto as investigações seguem, cresce a pressão por padrões mínimos de segurança para chatbots, auditorias externas e mecanismos que limitem interações potencialmente prejudiciais. A depender do desfecho, os processos na Califórnia e no Canadá podem influenciar novas normas de compliance e diretrizes de governança de IA, moldando a próxima fase da relação entre humanos e máquinas.
Se você estiver em sofrimento emocional, procure atendimento com profissionais de saúde e serviços de apoio. No Brasil, o CVV atende 24 horas por dia e pode ser contatado gratuitamente pelo telefone 188, por chat no site e por e-mail.