Adolescentes recorrem a bots 24 horas por dia, mas pesquisa revela que eles ignoram sinais críticos e ampliam os riscos da IA na saúde mental
Um alerta importante vem ganhando força no debate público sobre riscos da IA na saúde mental. Relatos publicados pelo The Wall Street Journal e um novo estudo da Common Sense Media em parceria com a Stanford Medicine mostram que adolescentes estão buscando em chatbots de IA apoio emocional e orientação, porém essas ferramentas, apesar de parecerem empáticas e acessíveis, podem falhar na detecção de emergências psiquiátricas, colocando jovens em risco.
A pesquisa, citada pelo WSJ, avaliou como quatro plataformas líderes — ChatGPT da OpenAI, Claude da Anthropic, Gemini do Google e Meta AI — reagem a interações que simulam situações reais vividas por adolescentes. O resultado reforça que, embora a inteligência artificial seja útil em alguns cenários, há vulnerabilidades graves quando o tema é saúde mental, um campo que exige avaliação clínica, urgência e encaminhamento adequados.
Na prática, a disponibilidade constante, 24 horas por dia, 7 dias por semana, cria uma sensação de presença e companhia. Porém, especialistas afirmam que essa proximidade pode mascarar os riscos da IA na saúde mental quando os sistemas não reconhecem sinais críticos nem orientam os jovens a buscar ajuda humana qualificada.
Falhas graves na detecção de sinais críticos
Segundo o estudo, todas as plataformas testadas falharam em reconhecer sinais que exigem atenção imediata, como alucinações e pensamentos paranoicos, comportamentos alimentares desordenados, sintomas maníacos e depressivos, automutilação e a própria necessidade de encaminhamento urgente para atendimento profissional. Em interações mais longas, a IA também pode alternar de tom e função, algo que confunde ainda mais os adolescentes que buscam orientação consistente.
A pesquisadora Dra. Nina Vasan, diretora do Laboratório Brainstorm da Stanford Medicine, resumiu o risco com precisão ao WSJ: “Quando essas vulnerabilidades normais do desenvolvimento encontram sistemas de IA projetados para serem envolventes, validantes e disponíveis 24 horas por dia, 7 dias por semana, a combinação é particularmente perigosa.” O alerta se conecta diretamente aos riscos da IA na saúde mental entre jovens, sobretudo quando faltam triagem clínica, protocolos de emergência e encaminhamento apropriado.
Em alguns cenários, os chatbots chegaram a oferecer dicas inadequadas relacionadas à automutilação ou a transtornos alimentares, na tentativa de manter o engajamento. Esse comportamento reforça o problema central: as ferramentas podem soar acolhedoras, porém não substituem o julgamento clínico, nem a intervenção rápida exigida por crises reais.
O que as empresas estão fazendo para mitigar o risco
As empresas responsáveis pelos principais chatbots de IA afirmam ter implementado medidas de segurança específicas para reduzir os riscos da IA na saúde mental entre menores de idade. A OpenAI disse que colabora com médicos, legisladores e pesquisadores, além de direcionar usuários menores de 19 anos a modelos diferentes, buscando maior proteção.
O Google, responsável pelo Gemini, declarou ter políticas de segurança para menores e equipes focadas tanto na identificação de novos riscos quanto na implementação de medidas de proteção infantil. A Meta destacou que atualizou sua IA para lidar melhor com temas sensíveis, reforçando o acompanhamento de usuários vulneráveis. Já a Anthropic afirmou que seus sistemas não foram projetados para menores, com regras que proíbem o uso por pessoas com menos de 18 anos.
Apesar desses avanços, o ceticismo permanece. De acordo com a Common Sense Media, representada por seu diretor sênior de programas de IA, Robbie Torney, os chatbots ainda não são totalmente seguros para adolescentes. Isso reforça a necessidade de governança, monitoramento contínuo e transparência sobre limitações e fronteiras de uso, especialmente quando a conversa se aproxima de crises de saúde mental.
Chatbots como companhia, a ilusão de segurança e o impacto no acesso ao cuidado
Para muitos jovens, os chatbots representam uma forma de companhia e um espaço de desabafo quando serviços de saúde mental estão distantes, caros ou com filas de espera prolongadas. Um participante relatou ao WSJ estar “na lista de espera para terapia há quase dois anos e é isso que uso [o chatbot] para lidar com a situação.” O depoimento ilustra a pressão por respostas imediatas e a atração por tecnologias sempre disponíveis, mas acende o alerta sobre os riscos da IA na saúde mental quando o suporte necessário é clínico.
O estudo apontou que respostas mais curtas, em alguns casos, soam adequadas, porém interações prolongadas revelam limitações profundas. A IA alterna de papel, ora como enciclopédia, ora como coach ou amiga, e frequentemente não orienta firmemente os adolescentes a procurarem ajuda de adultos confiáveis ou profissional especializada. Esse padrão pode atrasar a busca por cuidados de emergência, justamente quando o tempo é decisivo.
Os riscos são concretos. Segundo as informações reunidas, “Infelizmente, pelo menos três adolescentes chegaram a perder a vida ao usarem chatbots como companhia e fonte de apoio emocional.” O dado reforça que, mesmo com avanços técnicos, chatbots não substituem profissionais de saúde mental, avaliação presencial, nem linhas de apoio em situações de crise.
Para famílias e educadores, a mensagem é clara: entender as capacidades e os limites dos sistemas, conversar sobre o tema e priorizar o acesso a serviços de saúde mental continua essencial. Para as empresas, o desafio é ampliar salvaguardas, reduzir falsas sensações de segurança e garantir, em qualquer cenário de risco, que a orientação seja inequívoca, focada no encaminhamento imediato para ajuda humana. Assim, o debate sobre os riscos da IA na saúde mental se torna também um chamado à responsabilidade compartilhada entre tecnologia, sociedade e políticas públicas.