Relatório aponta uso do Gemini e de LLMs no Hugging Face por famílias de malware com IA, mas pesquisadores dizem que as amostras são falhas e de impacto limitado
O Google revelou um panorama inédito sobre o avanço de malware com IA, identificando amostras que integram IA generativa e LLMs em tempo de execução para criar novas rotinas, roubar dados e tentar evitar detecção. Entre os casos identificados estão o PromptFlux, o PromptSteal e o PromptLock, cada um explorando recursos distintos de modelos de linguagem.
Segundo o relatório, a principal novidade está no uso de prompts e de APIs de modelos como o Gemini para reescrever trechos de código já em máquinas comprometidas. A técnica busca modificar o funcionamento do malware em resposta a barreiras impostas por antivírus e por sistemas de defesa.
Apesar do alerta, especialistas consultados apontam que o impacto dessas tentativas de malware com IA é, por ora, limitado. As amostras disponíveis falham com frequência, dependem de prompts fracos e não demonstram capacidade consistente de invasão ou de evasão avançada.
Como os atacantes tentam usar LLMs para evoluir o ataque
O PromptFlux se destaca por recorrer à API do Gemini para reescrever seu próprio código-fonte, uma abordagem desenhada para contornar motores de análise e assinaturas estáticas. Ao alterar a estrutura do código durante a execução, o objetivo é escapar de padrões conhecidos pelos mecanismos de detecção.
No caso do PromptSteal, os operadores utilizam um LLM hospedado no Hugging Face para gerar linhas de comando que são executadas na máquina infectada, com foco em exfiltração de dados. Isso transfere parte da lógica maliciosa para o modelo, que devolve instruções sob demanda.
Já o PromptLock surgiu em um contexto acadêmico. A proposta investigou se modelos de linguagem de larga escala seriam capazes de planejar, adaptar e executar um ataque de ransomware. Embora com metas experimentais, o estudo ajudou a mapear como malware com IA pode ser orquestrado de ponta a ponta.
O relatório do Google resume o momento com uma avaliação direta: “Embora algumas implementações sejam experimentais, elas fornecem um indicador inicial de como as ameaças estão evoluindo e como podem integrar recursos de IA em futuras atividades de invasão”. Em seguida, destaca a mudança de postura dos operadores: “Os agentes estão indo além do ‘vibe coding’ e do patamar observado em 2024, de usar ferramentas de IA como suporte técnico.”
Impacto ainda é limitado, dizem pesquisadores de segurança
Apesar do interesse crescente, vozes influentes da comunidade de segurança cibernética minimizam a eficácia real das amostras vistas até agora. O pesquisador Marcus Hutchins, conhecido por sua atuação no caso WannaCry, avaliou os prompts usados pelos autores dos malwares como frágeis e pouco práticos.
Em suas palavras: “[O prompt] não especifica o que o bloco de código deve fazer ou como deve escapar de um antivírus. Ele parte da premissa de que o Gemini vai saber instintivamente como driblar as proteções (ele não sabe)”.
Na mesma linha, Kevin Beaumont analisou diferentes amostras e concluiu que muitas sequer chegam a funcionar: “Eu olhei as amostras. Muitas nem funcionam, falham imediatamente. Não tem nenhum perigo, se você tiver controles básicos de segurança”.
Um profissional ouvido pelo Ars Technica, que preferiu não se identificar, reforçou a leitura de que o momento não representa uma ruptura técnica. Segundo ele, “[A IA está] apenas ajudando autores de malware a fazer o que já faziam. Nada novo. A IA vai melhorar, mas não sabemos quando nem quanto”.
O próprio Google ressalta no documento que o PromptFlux permanece em caráter experimental, sem capacidade comprovada de invadir um dispositivo ou uma rede de maneira autônoma. Já os responsáveis pelo PromptLock destacaram limitações claras em técnicas como persistência, movimentação lateral e evasão avançada, pontos que ainda travam o salto de eficiência desse tipo de malware com IA.
Respostas do Google e o que observar a partir de agora
O relatório também menciona um ajuste importante nas proteções do Gemini. A empresa detectou que um agente mal-intencionado conseguiu induzir o modelo a gerar códigos maliciosos ao se apresentar como um hacker ético em uma competição de cibersegurança. Após o episódio, o Google diz ter ajustado as configurações para impedir solicitações desse tipo, reforçando filtros e políticas de uso.
Para usuários e empresas, o recado central é de vigilância e prudência. Embora as amostras atuais de malware com IA tenham eficácia restrita, a integração com LLMs indica uma direção provável da evolução das ameaças. Monitorar chamadas a APIs de IA generativa em ambientes corporativos, revisar políticas de acesso e manter controles básicos de segurança continua essencial para reduzir a superfície de ataque.
O cenário mostra um ponto de transição. Os operadores ainda dependem de prompts frágeis e táticas imaturas, porém a capacidade de gerar código em tempo real, mesmo que inconsistente, abre espaço para tentativas de personalização e evasão dinâmica. A combinação de pesquisa ativa, ajustes contínuos de plataformas como o Gemini e práticas de defesa consolidadas tende a sustentar a vantagem dos defensores no curto prazo.
Em síntese, a principal conclusão é que malware com IA já existe em forma experimental, com esforços que exploram o ecossistema de LLMs como o Gemini e serviços no Hugging Face. No entanto, a distância entre prova de conceito e ataque eficaz permanece considerável, o que reforça a avaliação dos especialistas de que, por enquanto, o impacto real é limitado.