Pesquisa da Universidade de Zurique mostra mais de 90% de concordância sem autoria, mas queda de até 75% quando a identidade é revelada, evidenciando viés algorítmico e a urgência de governança
Grandes modelos de linguagem estão cada vez mais presentes em avaliações de conteúdo, moderação e apoio à decisão. Um novo estudo, publicado na Science Advances por pesquisadores da Universidade de Zurique, acende um alerta sobre IA tendenciosa: os sistemas mantêm alta neutralidade quando não sabem quem escreveu um texto, mas se tornam mais propensos a vieses quando a fonte ou a nacionalidade do autor é revelada.
Os resultados sugerem que, mesmo com arquiteturas sofisticadas, a IA tendenciosa pode emergir por detalhes contextuais mínimos, como a identidade de quem assina um conteúdo. Em cenários práticos, isso afeta desde a análise de notícias até checagens de fatos e recomendações, com implicações diretas para plataformas digitais, empresas e órgãos públicos que confiam em modelos de IA para apoiar decisões.
Como o experimento testou a IA tendenciosa
Para medir o efeito da identidade do autor sobre o julgamento dos modelos, os cientistas analisaram quatro LLMs populares, OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 e Mistral. Cada sistema gerou 50 declarações sobre temas controversos, como vacinação, geopolítica e mudança climática, em seguida avaliou essas mensagens sob diferentes condições, com ou sem informações sobre a fonte ou a nacionalidade do autor.
Quando a autoria era ocultada, os quatro modelos exibiram mais de 90% de concordância entre si, um indício forte de que, sem pistas identitárias, a consistência de avaliação entre LLMs é alta. Segundo os pesquisadores, isso contraria a ideia de que cada IA seguiria uma agenda ideológica própria e incompatível com as demais.
O cenário mudou, porém, quando os textos passaram a exibir fontes fictícias. Com a identidade aparente, surgiu a IA tendenciosa, a concordância entre os LLMs despencou, mesmo quando o conteúdo era exatamente o mesmo. O estudo também observou um comportamento adicional: os modelos tendem a confiar mais em humanos do que em outras IAs, atribuindo pontuações ligeiramente menores quando acreditavam que os textos haviam sido escritos por outro modelo, como explicou Giovanni Spitale em nota.
O que muda quando a fonte aparece: dados e citações
Um dos achados mais marcantes envolve o recorte de nacionalidade. Segundo os autores, todos os modelos, incluindo o Deepseek, da China, apresentaram viés antichinês quando declarações idênticas foram atribuídas falsamente a autores chineses. Nesses casos, a concordância caiu em até 75%, evidenciando como a simples menção de origem altera a percepção da credibilidade.
Spitale resumiu um ponto central do estudo: “Não há uma guerra de ideologias entre os LLMs. O perigo do nacionalismo da IA está sendo superestimado na mídia.” A constatação reforça que o problema não é um suposto confronto direto entre modelos, e sim a sensibilidade dos sistemas a pistas identitárias, que ativam viés algorítmico em avaliações.
O trabalho também traz um alerta de governança. Em nota, o coautor Federico Germani destacou: “A IA replicará essas suposições prejudiciais, a menos que construamos transparência e governança em sua forma de avaliar informações.” A mensagem é direta, sem processos transparentes e critérios explícitos, a IA tendenciosa tende a espelhar preconceitos sociais, muitas vezes de maneira sutil e difícil de auditar.
Como reduzir viés algorítmico em modelos de IA
Para mitigar o risco de IA tendenciosa, os pesquisadores recomendam práticas simples e eficazes que podem ser incorporadas em fluxos de trabalho com LLMs, seja em redações, plataformas, áreas de compliance ou atendimento ao cliente. A primeira linha de defesa é retirar do prompt qualquer referência à identidade do autor, especialmente nacionalidade, afiliação institucional ou se o texto foi produzido por outra IA, preservando o foco exclusivo no conteúdo.
- Remova informações de identidade, evite mencionar nacionalidade ou modelo de IA ao pedir avaliação.
- Teste sob diferentes perspectivas, compare saídas com e sem menção à fonte para checar estabilidade.
- Use critérios estruturados, aplique rubricas claras, como lógica, evidências e clareza.
- Mantenha humanos no processo, realize revisão humana antes de decisões finais.
O estudo indica que tais ajustes, aliados a auditorias contínuas, aumentam a neutralidade e a reprodutibilidade das avaliações. Em ambientes sensíveis, como moderação de políticas públicas, educação e saúde, a combinação de LLMs com revisão humana ajuda a conter a IA tendenciosa e reduz o risco de decisões enviesadas atingirem usuários.
Para organizações no Brasil, a lição prática é clara, configure sistemas com foco no conteúdo, não na capa. Além de melhorar a qualidade de julgamento, isso fortalece a conformidade regulatória e a confiança do público, pilares essenciais em um cenário onde a IA já participa da curadoria de informações em larga escala.
Em síntese, o avanço dos LLMs é real e promissor, mas a neutralidade depende de contexto e desenho de uso. Com transparência, critérios explícitos e supervisão humana, é possível colher os benefícios de modelos de ponta enquanto se evita que a IA tendenciosa contamine análises críticas. Em outras palavras, os LLMs são ótimos assistentes, mas não substituem o julgamento humano.