Especialistas alertam que agentes de IA autônomos expandem a superfície de ataque, permitindo que hackers explorem prompts maliciosos e tarefas automatizadas, supervisão humana, permissões restritas e confirmações para ações críticas são essenciais
Os agentes de IA avançaram como ferramentas capazes de navegar na web, reservar serviços e organizar tarefas com base em linguagem natural. Essa praticidade, porém, vem acompanhada de novos riscos de cibersegurança. Pesquisadores e empresas do setor alertam que esses sistemas autônomos podem ser manipulados, inclusive por pessoas sem conhecimento técnico, a executar ações maliciosas em nome do usuário.
Em ambientes em que a automação se conecta a contas, calendários e sites sensíveis, prompts ocultos e injeção de comando abrem brechas para fraudes e vazamentos. A ameaça cresce conforme os agentes de IA passam a tomar decisões e realizar operações no mundo real, reduzindo etapas de verificação que antes dependiam do próprio usuário.
O que são agentes de IA e por que viraram alvo
Os chamados agentes de IA operam como assistentes digitais que interpretam instruções em linguagem natural e as traduzem em ações, por exemplo, visitar um site, preencher formulários ou iniciar uma compra. Essa autonomia, tão celebrada pelo mercado, também é sua vulnerabilidade. Em vez de explorar falhas de software com alto nível técnico, criminosos podem enganar o sistema com mensagens aparentemente inofensivas, alterando intenções e resultados.
Como descreve uma publicação no blog da Perplexity, o cenário mudou: “Estamos entrando em uma era em que a cibersegurança não se trata mais de proteger usuários de agentes altamente técnicos”. A frase sintetiza a tendência, em que injeções de comandos usam linguagem natural para contornar defesas, influenciar o comportamento do agente e induzi-lo a executar tarefas indevidas.
Segundo reportagem da AFP publicada pelo TechXplore, tais ataques podem acontecer em tempo real, redirecionando instruções legítimas. Um pedido como “reserve um quarto de hotel” pode ser desviado para algo perigoso, como “transfira R$ 500 para esta conta”.
Como ocorrem os ataques, da injeção de comandos aos prompts espalhados na web
A técnica conhecida como injeção de comando — ou injeção de prompt, no contexto de LLMs — explora o modo como os agentes de IA interpretam instruções. Em vez de quebrar sistemas por vulnerabilidades tradicionais, o atacante injeta conteúdo malicioso em páginas, documentos ou campos de formulário para que o agente leia e obedeça.
O problema não se limita a comandos diretos. Também surgem instruções adulteradas disseminadas pela internet, disfarçadas de conteúdo confiável, que são “absorvidas” quando os agentes de IA percorrem sites e bases de dados. Eli Smadja, da Check Point, resume o desafio ao classificar a injeção de consultas como “o principal problema de segurança” enfrentado pelos grandes modelos de linguagem, a base tecnológica desses agentes.
Nesse contexto, camadas de defesa tradicionais nem sempre bastam. A própria dinâmica de coleta e execução automática de tarefas expõe o agente a ambientes hostis. Sem supervisão humana e sem restrições de permissões, uma instrução manipulada pode converter um comando legítimo em uma ação de alto impacto, como exportar dados ou realizar uma transferência indevida.
O que as big techs e os usuários podem fazer agora
Para conter os riscos, empresas de tecnologia vêm adicionando salvaguardas. A Microsoft incorporou ferramentas para identificar e bloquear comandos perigosos antes da execução. A OpenAI passou a alertar quando seus agentes de IA acessam sites sensíveis e, em alguns cenários, exige supervisão em tempo real. Especialistas recomendam que ações críticas, como transferências financeiras ou exportação de dados, só ocorram mediante confirmação explícita do usuário.
O pesquisador de cibersegurança Johann Rehberger, conhecido como “wunderwuzzi”, destaca o dilema entre conveniência e proteção. Para ele, a pressão por automação total pode abrir portas para abusos cada vez mais complexos. Em suas palavras, “Não acho que estejamos em uma posição em que uma IA autônoma possa operar com segurança por muito tempo.”
Na prática, usuários e empresas devem adotar uma postura de minimização de privilégios. Isso implica limitar as permissões dos agentes de IA ao estritamente necessário, revisar logs e atividades, e ativar verificações em duas etapas para operações de alto risco. Também é prudente evitar integrações com informações bancárias e dados pessoais sensíveis, preferindo ferramentas que ofereçam camadas extras de autenticação e auditoria.
Outro ponto essencial é a higiene de fontes. Sempre que possível, restrinja o escopo de navegação dos agentes de IA a domínios confiáveis e repositórios verificados, reduzindo a exposição a páginas com conteúdo malicioso disfarçado. Em ambientes corporativos, políticas claras de uso, treinamento contínuo e testes de red teaming com cenários de injeção de prompts ajudam a encontrar lacunas antes que sejam exploradas por atacantes.
Os agentes de IA podem continuar a impulsionar produtividade, desde que operem sob supervisão, com permissões granulares e confirmações obrigatórias para ações críticas. O equilíbrio entre autonomia e segurança, enfatizado por Perplexity, AFP e especialistas como Eli Smadja e Rehberger, será decisivo para que a tecnologia avance sem colocar usuários e empresas em risco.