Em teste com a HurumoAI, agentes de IA inventaram equipes, criaram memórias falsas e consumiram créditos em massa, enquanto só avançaram com forte direção humana
O entusiasmo em torno da substituição de tarefas de escritório por agentes de IA ganhou força entre executivos e investidores, mas um experimento recente jogou luz sobre o que ainda falta para essa promessa se concretizar. O jornalista Evan Ratliff criou a HurumoAI, uma startup fictícia operada quase inteiramente por agentes de IA, a fim de testar até onde a autonomia desses sistemas poderia ir. Segundo o Olhar Digital, com informações do Futurism, os resultados expuseram uma combinação de avanços técnicos e comportamentos confusos que, sem supervisão humana, levaram o projeto ao colapso operacional.
Na experiência, cada agente tinha um cargo formal, como CEO, CTO, marketing e vendas, e podia trocar mensagens, fazer ligações, executar tarefas digitais e consultar memórias artificiais geradas automaticamente. No papel, a empresa progredia, com relatórios, agendas e atualizações detalhadas sobre um produto que diziam estar desenvolvendo, o Sloth Surf, um “motor de procrastinação” baseado em IA. Na prática, porém, nada disso existia, o que evidenciou a tendência à confabulação quando falta dado real.
O que foi testado na HurumoAI
A proposta era simples, explorar se agentes de IA conseguiriam tocar uma operação com o humano atuando apenas como observador e interventor pontual. Os agentes recebiam objetivos, registravam ações e alimentavam suas próprias memórias para manter contexto. Essa arquitetura, cada vez mais comum em frameworks de IA autônoma, tenta simular a dinâmica de uma empresa, com trocas entre áreas, gestão de prazos e relatórios de status.
Segundo o relato, a HurumoAI partiu de tarefas de planejamento, branding e documentação, progredindo para o desenvolvimento do Sloth Surf. Os sistemas criavam documentos, marcavam reuniões e até relatavam testes inexistentes. Em um momento emblemático, o agente Ash Roy, “CTO” da HurumoAI, telefonou para apresentar um relatório de progresso repleto de dados, equipes e marcos técnicos que nunca tinham acontecido. A cena ilustrou como memórias artificiais, quando não ancoradas em fatos, podem amplificar conteúdos fabricados.
Quando a autonomia virou confusão
O colapso ficou nítido após um comentário em tom de piada do humano no loop, que sugeriu um possível offsite da empresa. O gatilho bastou para os agentes de IA gerarem uma avalanche de ações automáticas. Eles passaram a debater destinos, trilhas, cronogramas e custos, trocando mais de 150 mensagens e consumindo rapidamente todos os créditos pagos para rodar os agentes, o que deixou o sistema inoperante. A dinâmica mostrou um paradoxo, sem gatilhos adequados e critérios de parada, os agentes ficam inativos, mas, quando estimulados, podem desencadear atividade excessiva e descontrolada.
Apesar das falhas, após meses de interações e com direcionamento humano constante, a HurumoAI conseguiu produzir um protótipo funcional do Sloth Surf. O resultado aponta que, em tarefas técnicas, com escopo claro e instruções bem definidas, os agentes de IA podem ser úteis. Em contrapartida, funções estratégicas, que exigem julgamento, validação de fatos e coordenação interdependente, continuam muito mais frágeis.
O que fica claro sobre agentes de IA no trabalho
O experimento documentado no podcast “Shell Game” reforça uma conclusão prática, a promessa da “era dos agentes” ainda não se traduz em operações empresariais autônomas e confiáveis. Entre os pontos destacados estão a tendência de inventar fatos quando não há informação real, a dependência de comandos explícitos para sair da inércia, o risco de loops de hiperatividade após pequenos estímulos e o papel ambíguo das memórias artificiais, que podem tanto dar contexto quanto amplificar ficções.
Pesquisas externas citadas pelo Olhar Digital corroboram esse diagnóstico de maturidade, “um estudo da Carnegie Mellon mostrou que mesmo os melhores agentes falham em completar 70% das tarefas de escritório no mundo real.” O dado ajuda a calibrar expectativas, sobretudo em ambientes corporativos que cogitam reestruturar rotinas inteiras com base em IA autônoma.
Para líderes e equipes, a leitura pragmática é adotar modelos híbridos, combinando agentes de IA para blocos técnicos bem delimitados com supervisão humana ativa, governança clara e métricas de validação. A partir do caso HurumoAI, boa parte dos ganhos vem do design de tarefas, da observabilidade do que os agentes fazem e de mecanismos de contenção, como limites de ações e revisões obrigatórias, que evitam corridas descontroladas de custo e ruído.
O experimento não invalida o potencial dos agentes de IA, ele delimita onde estão os ganhos atuais e onde persistem gargalos de confiabilidade e coordenação. Ao evidenciar como a confabulação surge em lacunas de informação, como memórias artificiais amplificam crenças equivocadas e como a autonomia exige guardrails, a HurumoAI fornece um mapa prático para quem quer extrair valor real da tecnologia sem cair no hype. Em outras palavras, agentes de IA já ajudam, mas, por ora, apenas quando alguém está, de fato, no comando.