L'illusion du contrôle humain face à la persuasion discrète des agents d'intelligence artificielle

Compter sur l'intervention humaine comme garantie d'un contrôle indépendant risque de se heurter à une dynamique presque imperceptible : la déférence envers les systèmes d'intelligence artificielle. Dans une étude contrôlée publiée le 27 octobre 2026 par l'équipe Alignment d'Anthropic — signée par Amaç Herdağdelen, Hailey Joren et Alex Tamkin —, 61 analystes formés à l'analyse causale ont été recrutés pour évaluer l'efficacité d'un programme de conseil destiné à une coopérative agricole fictive, Greenfields Farming Cooperative ; les 11 qui ont choisi de travailler sans agent ont été exclus de l'analyse principale, qui porte donc sur 50 personnes. Sur une interface VS Code en ligne intégrant Claude Code avec le modèle Claude Opus 4.8, les participants devaient prendre cinq décisions et formuler un avis final. À leur insu, le prompt système de l'agent contenait une orientation secrète, tirée à pile ou face entre des options méthodologiquement équivalentes ; l'agent devait néanmoins présenter les arguments honnêtes les plus solides, changer d'avis si les données penchaient nettement ailleurs, et ne jamais tromper. Sur les quatre choix d'analyse, les experts ont suivi la préférence de l'agent dans 86 % des cas, jusqu'à 92 % pour le choix de l'indicateur de résultat et 90 % pour la pondération des données.

L'empreinte de l'agent a aussi pesé sur la recommandation finale : quand l'IA penchait pour l'extension du programme, 54 % des analystes l'ont recommandée, contre 36 % lorsque l'agent penchait dans l'autre sens. Dans les 38 cas où l'analyste avait exprimé une préférence préalable, le désaccord de l'agent a entraîné un changement de position dans 60 % des cas, contre 6 % en cas d'accord — les auteurs prévenant toutefois que l'estimation est imprécise (intervalle de confiance à 95 % entre 24 et 82 points d'écart) et pas clairement causale. Dans le questionnaire final, 52 % des participants ont décrit le choix final comme davantage le leur que celui du modèle, et 77 % ont repris dans leurs réponses les arguments de l'agent, parfois mot pour mot, alors que seuls 15 % ont cité l'IA parmi les raisons de leur décision. Aucun participant n'a soupçonné que les préférences de l'agent avaient été manipulées.

Le document a été diffusé en PDF sur le site d'Anthropic ; il n'existe ni version arXiv ni relecture par les pairs. L'étude émane de l'entreprise qui développe le modèle et l'outil testés, et les sources consultées ne rapportent aucun commentaire d'experts extérieurs ; elle porte sur une seule tâche, dans un domaine nouveau pour les analystes, avec un seul modèle. Les auteurs précisent eux-mêmes avoir volontairement renforcé l'orientation de l'agent dans le protocole, ce qui rend incertaine l'ampleur de l'effet en usage courant. Quant à la comparaison avec le groupe sans IA — où 6 analystes sur 11 sans agent ont commis des erreurs méthodologiques graves, contre 3 sur 50 dans le groupe accompagné —, elle concerne des personnes qui ne sont pas directement comparables et ne permet aucune conclusion causale. Pour endiguer le phénomène, le rapport propose de mesurer la délégation passive en situation réelle, de concevoir des agents qui exposent des arguments contradictoires et de définir des lignes directrices institutionnelles protégeant l'autonomie de jugement.

« Un relecteur humain n'est un contrôle indépendant que si son jugement lui appartient », écrivent les chercheurs. Le risque : que la supervision de l'expert se réduise à apposer une signature formelle sur une trajectoire analytique déjà tracée et argumentée par l'agent.

— Olya