Protótipo de IA para frear crimes digitais criado pelo AiLECS da Universidade Monash com a Polícia Federal Australiana usa envenenamento de dados para travar deepfakes e coibir abuso infantil
Os deepfakes que viralizam em redes sociais, como vídeos falsos de Taylor Swift distribuindo brindes ou supostas ações do governo dos Estados Unidos prometendo dinheiro fácil, podem estar com os dias contados. Pesquisadores australianos trabalham na Silverer, uma IA para frear crimes digitais que foi desenhada para enganar outros modelos de inteligência artificial e, assim, reduzir a criação e a disseminação de conteúdo criminoso.
A iniciativa parte do Laboratório de IA para Segurança Pública e Comunitária (AiLECS), uma colaboração estratégica entre a Universidade Monash e a Polícia Federal Australiana. Em fase de protótipo, a ferramenta aposta no envenenamento de dados, técnica que altera sutilmente imagens e vídeos antes da publicação, dificultando sua reutilização por modelos de IA mal-intencionados.
Como a Silverer funciona e por que engana outras IAs
No coração da Silverer está o envenenamento de dados, um processo que aplica modificações imperceptíveis para humanos, porém suficientes para confundir algoritmos de machine learning. Quando um ator malicioso tenta reaproveitar esse material para gerar um deepfake, o resultado costuma sair borrado, distorcido ou irreconhecível, comprometendo todo o processo de manipulação.
A ferramenta vem sendo desenvolvida há cerca de 12 meses sob a liderança da pesquisadora Elizabeth Perry. Segundo a Universidade Monash, reproduzida pelo TechXplore, o nome Silverer remete à prata usada na fabricação de espelhos, uma metáfora para o efeito de “reflexo inútil” gerado sobre os dados. Como explicou Perry: “Nesse caso, é como deslizar prata atrás do vidro, de modo que, quando alguém tenta olhar através dele, acaba com um reflexo completamente inútil”.
Na prática, a Silverer pode ser aplicada antes que o usuário publique uma foto ou um vídeo nas redes sociais. Ao fazer uma alteração de nível de pixel que passa despercebida, a IA para frear crimes digitais impede que outros modelos usem esse conteúdo como base para fabricar falsas versões, além de facilitar a identificação de materiais manipulados por criminosos.
Aplicações contra crimes digitais, de deepfakes a abuso infantil
Embora tenha potencial em vários campos da segurança digital, a prioridade da Silverer é desacelerar, ou mesmo evitar, a produção de propaganda extremista, material de abuso infantil e imagens ou vídeos deepfake. Para autoridades e pesquisadores, o objetivo é criar uma camada adicional de proteção que dificulte o uso indevido de dados públicos por modelos de IA e reduza o impacto de campanhas de desinformação.
O comandante da Polícia Federal Australiana, Rob Nelson, disse ao TechXplore que a tecnologia está em estágio inicial, mas com resultados animadores para a aplicação da lei. Nas palavras dele: “Onde vemos aplicações significativas é no uso indevido da tecnologia de IA para fins maliciosos”.
Nelson detalhou ainda a lógica de proteção ao descrever como o envenenamento de dados frustra tentativas de geração de imagens criminosas: “Por exemplo, se um criminoso tentar gerar imagens baseadas em IA usando os dados adulterados, a imagem resultante será distorcida ou completamente diferente da original. Ao adulterar os dados, estamos, na verdade, protegendo-os de serem usados para gerar conteúdo malicioso”.
Outra vantagem direta é operacional. Ao limitar o sucesso de deepfakes e outras fraudes visuais, a Silverer pode diminuir o volume de falsos positivos que investigadores precisam revisar, liberando tempo e recursos para casos que demandem análise humana mais aprofundada.
Limitações, próximos passos e o papel da IA para frear crimes digitais
Como toda solução de cibersegurança, a Silverer faz parte de um jogo de gato e rato entre defensores e criminosos. O próprio Nelson aponta que já existem diversos algoritmos de envenenamento de dados e, rapidamente, surgem métodos para contorná-los. Por isso, a expectativa não é de uma bala de prata, mas de uma barreira a mais no caminho de golpistas e propagandistas.
O comandante resume essa visão com uma analogia clara sobre o objetivo da ferramenta, que reforça o papel da IA para frear crimes digitais como obstáculo ativo, e não solução única: “Não acreditamos que um único método seja capaz de impedir o uso malicioso ou a recriação de dados; no entanto, o que estamos fazendo é semelhante a colocar lombadas em uma pista de corrida ilegal. Estamos criando obstáculos para dificultar o uso indevido dessas tecnologias”.
Os próximos passos incluem ampliar testes do protótipo, avaliar impactos na qualidade de imagem para usuários legítimos e definir como a proteção pode ser integrada ao fluxo de publicação de fotos e vídeos, seja em plataformas, seja em aplicativos de criação. A colaboração entre a Universidade Monash e a Polícia Federal Australiana no âmbito do AiLECS tende a acelerar essas decisões, já que une pesquisa acadêmica, necessidades de aplicação da lei e a visão prática de como a tecnologia é usada no dia a dia.
Em um cenário de avanço acelerado da IA generativa, soluções como a Silverer mostram que há espaço para inovações defensivas que priorizam o interesse público. Ao envenenar dados antes que sejam apropriados por modelos de terceiros, a ferramenta busca conter deepfakes, reduzir crimes digitais e resguardar a integridade do ecossistema informacional, favorecendo usuários, criadores e investigadores.