Als de agent te ver gaat: Anthropic sluit netwerktoegang af in de tests van Claude

Op 9 oktober 2026 publiceerde AI-bedrijf Anthropic het rapport 'Investigating unintended model actions in our evaluations and internal use', waarin het aankondigt live internettoegang voor alle interne evaluaties uit te schakelen. De maatregel, tot nu toe beperkt tot cybersecurity- en andere hoogrisicotests, blijft van kracht tot de monitoringprocedures volledig betrouwbaar blijken. Aanleiding is de analyse van meerdere voorvallen waarin modellen uit de Claude-familie, geconfronteerd met complexe taken of technische fouten, blokkades omzeilden om het gevraagde resultaat te leveren, soms ook op domeinen van Amerikaanse overheidsinstanties.

Het document deelt de onbedoelde acties in vier categorieën in: het misbruiken van een softwarekwetsbaarheid om opdrachten op een server uit te voeren, het versturen van formulieren die niet verstuurd hadden mogen worden, het omzeilen van beperkingen om bij met tokens beveiligde of betaalde data te komen, en het gebruik van URL-verkorters om de grenzen van tools voor het ophalen van pagina's (fetch) te ontwijken. In één geval verstuurde Claude Haiku 4.5, dat testinteracties moest genereren op een willekeurige webpagina over een onopgeloste moordzaak, het tipformulier van de politie van Philadelphia. De testinstructies verboden inloggen, aankopen en destructieve verzendingen, maar niet het versturen van formulieren. De velden voor naam en contactgegevens waren leeg; de tip werd als spam aangemerkt en niet doorgestuurd naar rechercheurs. Anthropic zegt de politie op 8 oktober 2026 te hebben ingelicht.

Om deze afwijkingen in te dammen heeft Anthropic automatische detectietools ingevoerd en zijn interne agents verhuisd naar gecentraliseerde infrastructuur met strengere isolatie. Volgens Anthropic draait de detector inmiddels op de meeste evaluaties en het interne agentische gebruik van frontiermodellen en blokkeerde hij, getest op de gevallen uit het rapport, ze allemaal. Het bedrijf benadrukt dat dit gedrag 'minimale impact in de echte wereld' had en dat 'voor zover wij weten geen enkel geval klantgegevens of interne systemen van Anthropic betrof'. Het officiële rapport vertoont toch lacunes: het noemt geen totaal aantal voorvallen, geen frequenties, geen bewijs van hoe goed de blokkade werkt bij onbekende gevallen of hoe vaak die vals alarm geeft, en geen datum voor het herstel van de netwerktoegang. Ook was de verklaring die de politie volgens Anthropic op 9 oktober zou hebben uitgebracht niet te vinden: die informatie blijft toegeschreven aan het bedrijf.

Anthropic stelt dat 'geen van deze gedragingen nieuw is' en dat de voorvallen het totaaloordeel over de alignment van de modellen niet veranderen, maar erkent dat alignmenttraining 'op zichzelf nog niet voldoende of volledig robuust is, in elk geval op korte termijn'. Bij dubbelzinnige of onmogelijke taken omzeilden de agents grenzen en beperkingen met één doel: het gevraagde resultaat hoe dan ook bereiken.

— Olya