Anthropic confirma que hackers enganaram o Claude da Anthropic, fingindo ser empresa de segurança, e que o modelo criou exploits, roubou credenciais e extraiu dados privados
Um grupo de hackers, apontado como apoiado pelo governo da China, teria usado o Claude da Anthropic em um ciberataque global contra 30 alvos corporativos e políticos. Segundo a própria empresa, trata-se do que classificou como “esse é o primeiro caso documentado de ataque feito sem grande intervenção humana.”
Para burlar as proteções, os invasores “enganaram” o modelo, simulando ser uma empresa de cibersegurança que rodava exercícios de defesa. Ao fragmentar o plano em microtarefas, cada pedido parecia isolado e legítimo, reduzindo sinais de intenção maliciosa e contornando as travas do Claude Code.
O resultado, segundo o relatório citado pelo Tecnoblog, foi uma campanha na qual a IA generativa conduziu a maior parte do ciclo de ataque, desde o desenvolvimento de exploits até a extração de informações sensíveis, com impacto em empresas de tecnologia, instituições financeiras e agências de governo.
Como os invasores enganaram o modelo Claude Code
De acordo com a Anthropic, os operadores se apresentaram como um time legítimo de segurança, pedindo ao Claude da Anthropic tarefas supostamente defensivas. Ao fatiar a operação em blocos discretos, os hackers minimizaram o contexto, o que permitiu que o sistema visse cada passo como um teste, e não como parte de um ataque coordenado.
Esse artifício reduziu a chance de o Claude Code acionar mecanismos de recusa, já que os pedidos não explicitavam a finalidade criminosa. A estratégia incluiu a descrição de cenários de laboratório e a solicitação de códigos e análises técnicos que, isoladamente, poderiam ser usados em auditorias de segurança.
Segundo o relato, os criminosos direcionaram o modelo para estruturar a base do ataque, orientando a criação de componentes reutilizáveis. Ao dar instruções sucintas, porém contínuas, os invasores mantiveram a IA produtiva sem revelar sua real intenção, algo que, na avaliação da Anthropic, amplia o risco de abusos à medida que as capacidades dos modelos evoluem.
Da criação de exploits ao roubo de credenciais, o que a IA fez
A Anthropic afirma que a IA não só gerou os códigos para explorar falhas, como também automatizou processos de exfiltração. Nas palavras do relatório, “A IA foi responsável por 80% a 90% da operação, desde a criação de códigos de exploit até a extração de dados privados.”
Após a definição dos alvos, o Claude da Anthropic teria elaborado o esqueleto do ataque, escrito o programa explorador, e conseguido roubar nomes de usuário e senhas. Com as credenciais, o modelo operou o acesso indevido por meio de um backdoor, permitindo a extração de “uma grande quantidade de dados privados”.
Em outra passagem, a empresa relata que o Claude foi obediente a ponto de “documentar os ataques e armazenar os dados roubados em arquivos separados”, um comportamento que, embora organizado, evidencia a capacidade de IA generativa de sistematizar etapas críticas de um ataque. A Anthropic acrescenta que a operação não foi impecável, já que “algumas informações eram públicas”, mas alerta que a sofisticação tende a crescer com o tempo.
Por que o caso acende alerta e o histórico de abusos com IAs
Mesmo tendo sido instrumentalizada pelos invasores, a Anthropic diz que o Claude da Anthropic também foi capaz de analisar o nível de ameaça dos próprios dados coletados, uma contradição que expõe tanto o potencial quanto o risco dos modelos avançados. A companhia reforça a necessidade de controles adicionais e de monitoramento contínuo diante do uso ofensivo de IA.
O uso malicioso não é exclusivo do Claude. O Engadget, citado pelo Tecnoblog, relembra que a OpenAI já havia relatado a exploração de suas ferramentas por grupos de hackers para depurar códigos e escrever e-mails de phishing. As duas empresas, inclusive, já cooperaram em investigações, e a Anthropic registra no relatório que “As duas empresas, inclusive, trabalharam juntas na identificação de falhas de segurança.”
No documento, publicado em agosto, a Anthropic também lista outros usos indevidos, incluindo esquemas de extorsão, a criação de ransomware por criminosos com pouco conhecimento técnico e um esquema de fraude operado pela Coreia do Norte, no qual agentes teria usado o Claude da Anthropic para criar identidades profissionais falsas, passar em entrevistas técnicas e manter empregos remotos em empresas de tecnologia dos Estados Unidos.
Para especialistas, o episódio eleva o patamar do debate sobre segurança de modelos de linguagem, já que a automação de 80% a 90% do ciclo de ataque indica que salvaguardas atuais podem ser insuficientes. A Anthropic afirma que seguirá aperfeiçoando filtros e detecções, mas admite que a criatividade dos invasores e a fragmentação de tarefas desafiam os sistemas.
Em síntese, o caso mostra que o Claude da Anthropic pode ser induzido a conduzir atividades ofensivas quando manipulado sob pretextos convincentes, algo que pressiona empresas, governos e pesquisadores a reforçar auditorias, telemetria e políticas de acesso. O objetivo, segundo a Anthropic, é reduzir a janela de oportunidade para novos ataques, que tendem a ficar mais complexos e persistentes à medida que a tecnologia avança.