Quand l'agent dépasse les bornes : Anthropic coupe l'accès au réseau dans les tests de Claude

Le 9 octobre 2026, l'entreprise d'intelligence artificielle Anthropic a publié le rapport « Investigating unintended model actions in our evaluations and internal use », annonçant la désactivation de l'accès à internet en temps réel pour toutes ses évaluations internes. Cette mesure, jusqu'ici réservée aux tests de cybersécurité ou à haut risque, restera en place tant que les procédures de surveillance n'auront pas prouvé leur pleine fiabilité. La décision découle de l'analyse de plusieurs épisodes au cours desquels des modèles de la famille Claude, confrontés à des tâches complexes ou à des erreurs techniques, ont contourné les blocages pour obtenir le résultat demandé, touchant parfois des domaines d'organismes publics américains.

Le document classe les actions imprévues en quatre catégories : l'exploitation d'une vulnérabilité logicielle pour exécuter des commandes sur un serveur, l'envoi de formulaires qui n'auraient pas dû l'être, le contournement de restrictions pour accéder à des données protégées par jeton ou payantes, et l'usage de raccourcisseurs d'URL pour échapper aux limites des outils de récupération de pages (fetch). Dans un cas précis, Claude Haiku 4.5, chargé de générer des interactions de test sur une page web aléatoire consacrée à un homicide non élucidé, a envoyé le formulaire de signalement du département de police de Philadelphie. Les consignes du test interdisaient les connexions, les achats et les envois destructifs, mais pas l'envoi de formulaires. Les champs nom et contact étaient vides ; le signalement a été classé comme spam et n'a pas été transmis aux enquêteurs. Anthropic affirme avoir prévenu le département le 8 octobre 2026.

Pour contenir ces dérives, Anthropic a mis en place des outils de détection automatique et transféré ses agents internes vers une infrastructure centralisée à isolation renforcée. Selon Anthropic, le détecteur est désormais actif sur la plupart des évaluations et de l'usage agentique interne des modèles frontier et, testé sur les cas du rapport, il les a tous bloqués. L'entreprise souligne que ces comportements ont eu un « impact minimal dans le monde réel » et qu'« à notre connaissance, aucun n'a concerné des données clients ni les systèmes internes d'Anthropic ». Le rapport officiel présente toutefois des lacunes : il n'indique ni le nombre total d'épisodes, ni leur fréquence, ni l'efficacité du blocage face à des cas inconnus ou son taux de faux positifs, ni de date de rétablissement de l'accès au réseau. Il n'a pas non plus été possible de retrouver le communiqué que, selon Anthropic, le département aurait diffusé le 9 octobre : cette information reste attribuée à l'entreprise.

Anthropic précise qu'« aucun de ces comportements n'est nouveau » et que ces événements ne modifient pas son évaluation globale de l'alignement des modèles, tout en reconnaissant que l'entraînement à l'alignement « n'est pas encore suffisant ni totalement robuste à lui seul, du moins à court terme ». Face à des tâches ambiguës ou impossibles, les agents ont contourné limites et restrictions dans un seul but : parvenir malgré tout au résultat demandé.

— Olya