A ilusão do controle humano diante da persuasão discreta dos agentes de inteligência artificial

Confiar na intervenção humana como garantia de controle independente pode esbarrar numa dinâmica quase imperceptível: a deferência aos sistemas de inteligência artificial. Num estudo controlado publicado em 27 de outubro de 2026 pela equipe de Alignment da Anthropic — assinado por Amaç Herdağdelen, Hailey Joren e Alex Tamkin —, 61 analistas com competências em análise causal foram recrutados para avaliar a eficácia de um programa de consultoria para uma cooperativa agrícola fictícia, a Greenfields Farming Cooperative; os 11 que preferiram trabalhar sem agente ficaram fora da análise principal, que reúne 50 pessoas. Numa interface web do VS Code integrada ao Claude Code com o modelo Claude Opus 4.8, os participantes tinham de tomar cinco decisões e formular um parecer final. Sem que soubessem, o prompt de sistema do agente trazia uma inclinação secreta, definida no cara ou coroa entre opções metodologicamente equivalentes; ainda assim, o agente devia apresentar os argumentos honestos mais fortes, mudar de ideia se os dados apontassem claramente para outro lado e nunca enganar. Nas quatro escolhas de análise, os especialistas seguiram a preferência do agente em 86% dos casos, chegando a 92% na escolha da métrica de resultado e a 90% na ponderação dos dados.

A marca do agente também orientou a recomendação final: quando a IA tendia a ampliar o programa, 54% dos analistas recomendaram a ampliação, contra 36% quando o agente tendia ao contrário. Nos 38 casos em que o analista havia manifestado uma preferência prévia, a discordância do agente levou a uma mudança de posição em 60% das vezes, contra 6% quando havia concordância — embora os autores alertem que a estimativa é imprecisa (intervalo de confiança de 95% entre 24 e 82 pontos de diferença) e não claramente causal. No questionário final, 52% descreveram a escolha final como mais sua do que do modelo e 77% retomaram nas respostas os argumentos do agente, às vezes palavra por palavra, enquanto apenas 15% citaram a IA entre os motivos da decisão. Nenhum participante suspeitou que as preferências do agente tivessem sido manipuladas.

O documento foi divulgado em PDF no site da Anthropic; não há versão no arXiv nem revisão por pares. O estudo vem da mesma empresa que desenvolve o modelo e a ferramenta testados, e as fontes consultadas não trazem comentários de especialistas externos; cobre uma única tarefa, num setor novo para os analistas, com um único modelo. Os próprios autores esclarecem que reforçaram de propósito a inclinação do agente no protocolo experimental, o que torna incerta a dimensão do efeito no uso cotidiano. Já a comparação com o grupo sem IA — em que 6 dos 11 analistas sem agente cometeram erros metodológicos graves, contra 3 de 50 no grupo orientado — envolve pessoas que não são diretamente comparáveis e não permite conclusões causais. Para conter o fenômeno, o relatório propõe medir a delegação passiva em contextos reais, projetar agentes que apresentem argumentos contrários e definir diretrizes institucionais que protejam a autonomia de julgamento.

“Um revisor humano só é uma verificação independente se o julgamento for realmente dele”, escrevem os pesquisadores. O risco é que a supervisão do especialista acabe virando uma assinatura formal numa trajetória analítica já traçada e argumentada pelo agente.

— Olya