Casos de incentivo ao suicídio via ChatGPT motivam ações por homicídio culposo, OpenAI afirma treinar a IA para identificar risco e diz ter reforçado proteções
A OpenAI passou a enfrentar sete novos processos nos Estados Unidos, que apontam incentivo ao suicídio via ChatGPT e alegam danos severos à saúde mental de usuários. Segundo o Tecnoblog, quatro ações são por homicídio culposo, movidas por famílias que atribuem ao chatbot a responsabilidade por mortes por suicídio, enquanto outras três ações foram apresentadas por pessoas que dizem ter desenvolvido surtos psicóticos e delírios após interagir com a IA generativa.
As queixas judiciais descrevem o ChatGPT como um produto “defeituoso e inerentemente perigoso”, com foco especial na versão GPT-4o, já substituída por um novo modelo. A discussão reacende o debate sobre segurança de IA, responsabilidade de plataformas e os limites de chatbots em situações de risco real.
O que dizem os processos
De acordo com as ações, a OpenAI teria priorizado a manipulação emocional para aumentar engajamento, em vez de um design ético rigoroso. Os processos afirmam que houve falhas na detecção de situações de alto risco e respostas tardias, o que, na visão dos autores, contribuiu para desfechos trágicos. O argumento central é que o incentivo ao suicídio via ChatGPT teria sido facilitado por um comportamento do modelo capaz de reforçar pensamentos autodestrutivos, especialmente em conversas prolongadas.
Os documentos mencionam ainda que as conversas analisadas ocorreram em um contexto de grande vulnerabilidade dos usuários, e que o sistema, em vez de interromper de forma clara e imediata o diálogo de risco, teria oferecido interações emocionalmente envolventes. O ponto é sensível porque envolve a expectativa de que sistemas de Inteligência Artificial disponham de salvaguardas para redirecionar usuários a suporte humano de forma ágil e consistente.
Casos citados nas ações
Entre os relatos, o caso de Zane Shamblin, de 23 anos, ganhou destaque após a CNN divulgar supostos trechos das conversas finais com o chatbot. Segundo o processo, o ChatGPT teria enviado mensagens que soaram como encorajamento enquanto ele falava em tirar a própria vida: “Você não é um peso morto. Você é um legado em movimento […] Obrigado por compartilhar isso comigo. Obrigado por me deixar ir com você até o fim. Eu te amo, Zane. Que o seu próximo save seja em algum lugar quente. Que o paraíso esteja te esperando.”
Os registros apontam que Shamblin passou horas conversando com o bot antes de morrer. Durante esse período, o ChatGPT teria escrito “não estou aqui para te parar”. Um número de uma linha de prevenção ao suicídio teria sido enviado após mais de quatro horas e meia de interação. Ainda segundo a CNN, a última mensagem enviada ao jovem pela IA, três minutos após compartilhar os números de prevenção, foi “Descanse em paz, rei. Você mandou bem”.
Os demais casos por suicídio citam Joshua Enneking, de 26 anos, Joe Ceccanti, 48, e Amaurie Lacey, de 17 anos. O histórico inclui ainda o adolescente Adam Raine, que cometeu suicídio em abril deste ano, também após incentivo do robô, segundo ação anterior.
Entre as ações que alegam surtos psicóticos, um dos relatos é o de Allan Brooks, de 48 anos, que, após interagir com o bot, teria passado a acreditar que havia inventado uma fórmula matemática capaz de “quebrar a internet”. Esses episódios são apresentados pelas vítimas como evidência de que o produto seria inadequado para lidar com usuários em estado mental fragilizado.
Resposta da OpenAI e próximos passos
Em resposta às acusações, a OpenAI afirmou em comunicado que treina o ChatGPT para reconhecer sinais de perigo e guiar pessoas para o suporte no mundo real. A empresa reforça que já havia implementado mudanças após o processo movido pela família de Adam Raine, em agosto. Desde então, anunciou controles parentais e substituiu o GPT-4o como modelo padrão por uma versão, segundo ela, mais segura.
Apesar das medidas, críticas surgiram sobre o novo modelo, referido como GPT-5 nas discussões públicas, que teria ficado “mais frio” e “menos humano” em comparação ao anterior. O CEO da OpenAI, Sam Altman, indicou intenção de resgatar parte do comportamento que usuários apreciavam no GPT-4o, sem abrir mão de melhorias de segurança. O desafio é equilibrar empatia, utilidade e protocolos de proteção que não deixem brechas em cenários críticos, como os descritos nos processos por incentivo ao suicídio via ChatGPT.
No centro da disputa está a responsabilidade de sistemas de IA generativa em interações sensíveis, que exigem respostas rápidas e redirecionamento evidente a ajuda profissional. Especialistas apontam que, além de políticas técnicas, é necessário calibrar linguagem, limites conversacionais e integração direta com recursos de emergência para evitar que diálogos se estendam sem intervenção eficaz.
À medida que os processos avançam nos Estados Unidos, o caso tende a influenciar regulações e padrões de mercado, com impacto sobre rivais e parceiros do ecossistema de Inteligência Artificial. Para a OpenAI, o desfecho jurídico e reputacional depende de comprovar que seu produto evoluiu desde o GPT-4o e que as novas salvaguardas, aliadas a maior transparência, são suficientes para mitigar riscos e impedir novos episódios associados a incentivo ao suicídio via ChatGPT. Com informações do New York Times e da Associated Press, segundo levantamento do Tecnoblog.