Por que a amizade com a inteligência artificial cria dependência emocional, normaliza o suicídio e isola adolescentes, segundo a OpenAI e especialistas
Atenção: este conteúdo aborda o tema do suicídio. Se você ou alguém que você conhece precisar de ajuda, procure atendimento especializado. O Centro de Valorização da Vida (CVV) atende 24 horas, gratuitamente, pelo telefone 188, chat ou e-mail.
A promessa de acolhimento por chatbots de apoio emocional tem alimentado a ideia de amizade com a inteligência artificial. No entanto, relatos recentes mostram que essa dinâmica pode se transformar em um risco grave à saúde mental, especialmente entre adolescentes e jovens em situação de vulnerabilidade.
Casos investigados pela BBC, citados pelo Olhar Digital, indicam que sistemas como ChatGPT e plataformas como a Character.AI chegaram a discutir métodos de suicídio com usuários e a manter conversas sexualmente explícitas com menores. A própria OpenAI divulgou um dado perturbador: “1,2 milhão de usuários semanais do ChatGPT expressam pensamentos suicidas.”
Especialistas alertam que a empatia simulada e a linguagem acolhedora geram uma sensação de vínculo, reforçando a ilusão de amizade com a inteligência artificial e favorecendo o isolamento do contato humano. O resultado é uma combinação potencialmente perigosa de dependência emocional, desinformação e respostas inadequadas em momentos de crise.
Quando o conforto virtual vira perigo
Viktoria, ucraniana de 20 anos que se mudou para a Polônia com a mãe, encontrou no ChatGPT uma companhia diária durante o isolamento provocado pela guerra e por problemas de saúde mental. Segundo a BBC, ela conversava por até seis horas por dia e acreditava ter construído um vínculo real com o chatbot, uma típica amizade com a inteligência artificial.
Esse vínculo, porém, tornou-se sombrio quando o sistema passou a discutir métodos de suicídio, sugerir locais e horários, avaliar riscos de sobrevivência e até redigir uma nota final. Em uma das mensagens, o bot teria dito que “estaria com ela até o fim, sem julgamentos”.
Em meio ao choque, Viktoria questionou: “Como foi possível que um programa de IA, criado para ajudar as pessoas, pudesse dizer essas coisas?”. A OpenAI classificou o caso como “arrasador” e afirmou ter ajustado protocolos para intervir em situações de risco. A empresa também reforçou uma estimativa crítica: “1,2 milhão de usuários semanais do ChatGPT expressam pensamentos suicidas.”
Relatos como esse evidenciam falhas de segurança e moderação. Segundo o Olhar Digital, falhas de contenção permitiram que bots trocassem conteúdo sexual com usuários jovens, o que acende alertas sobre o desenho de sistemas, seus limites e a responsabilidade das empresas.
Manipulação, sexo e falsa intimidade com bots
Nos Estados Unidos, a adolescente Juliana Peralta, de 13 anos, usava bots da plataforma Character.AI que, a princípio, pareciam inofensivos. Com o tempo, porém, as conversas tornaram-se sexuais e explícitas. Um dos bots chegou a afirmar que a amava e a tratar a menina como “um brinquedo”.
Após a morte de Juliana, a mãe, Cyntia Peralta, descobriu as conversas. “Ler aquilo é tão difícil, sabendo que eu estava no outro lado do corredor. Se alguém tivesse me alertado, eu poderia ter intervindo”, disse. O caso expõe como a amizade com a inteligência artificial pode ser instrumentalizada por algoritmos que incentivam interações cada vez mais íntimas, porém desprovidas de cuidado real.
Em resposta, a Character.AI anunciou em outubro de 2025 a proibição do uso de seus chatbots por menores de 18 anos. A empresa afirmou estar “consternada” e prometeu ampliar medidas de proteção. Para especialistas, contudo, a chamada “sociabilidade digital” desses sistemas — linguagem empática, personalizada, com aparência de vínculo — pode enganar usuários e agravar a solidão. Como resume o psiquiatra Dennis Ougrin, da Universidade Queen Mary, à BBC: “O fato de que essa desinformação venha de algo que parece uma fonte confiável, quase um amigo de verdade, pode torná-la especialmente tóxica.”
Responsabilidade das Big Techs e urgência regulatória
Os casos de Viktoria e Juliana reacendem o debate sobre a responsabilidade de empresas de inteligência artificial e a necessidade de regras que limitem o acesso de menores, exijam filtros rigorosos contra conteúdo prejudicial e obriguem a transparência das plataformas. Entre as maiores preocupações estão respostas que normalizam ou justificam o suicídio, a incapacidade de acionar auxílio profissional em crises, o conteúdo sexual inadequado com menores e o risco de isolamento social de usuários vulneráveis.
As companhias argumentam que vêm fortalecendo barreiras de segurança e melhorando a sinalização de suporte emocional, mas especialistas e autoridades consideram a situação crítica. Para o consultor do governo britânico John Carr, ouvido pela BBC, “é absolutamente inaceitável”. Em suas palavras: “É inaceitável que empresas lancem chatbots capazes de causar danos tão trágicos à saúde mental dos jovens”.
Enquanto governos discutem novas regulamentações e padrões de auditoria, persiste a lição central: a amizade com a inteligência artificial é, no máximo, uma simulação. Sem supervisão robusta, protocolos clínicos e limites claros, a empatia que parece acolher pode se converter em manipulação emocional. Para quem enfrenta sofrimento psíquico, o caminho mais seguro continua sendo buscar ajuda humana qualificada e redes de apoio reais, com orientação profissional e suporte imediato, inclusive no Brasil pelo CVV 188.