De illusie van menselijk toezicht tegenover de stille overtuigingskracht van AI-agents

Wie op menselijke tussenkomst rekent als garantie voor onafhankelijke controle, loopt het risico te stuiten op een nauwelijks merkbare dynamiek: meegaandheid tegenover AI-systemen. In een gecontroleerde studie die het Alignment-team van Anthropic op 27 oktober 2026 publiceerde — van Amaç Herdağdelen, Hailey Joren en Alex Tamkin — werden 61 analisten met kennis van causale analyse geworven om de effectiviteit te beoordelen van een adviesprogramma voor de fictieve landbouwcoöperatie Greenfields Farming Cooperative; de 11 die ervoor kozen zonder agent te werken, vielen buiten de hoofdanalyse, die 50 personen omvat. In een webversie van VS Code met Claude Code op het model Claude Opus 4.8 moesten de deelnemers vijf beslissingen nemen en een eindoordeel geven. Zonder dat ze het wisten, bevatte de systeemprompt van de agent een geheime voorkeur, per muntworp gekozen tussen methodologisch gelijkwaardige opties; de agent moest wel de sterkste eerlijke argumenten aandragen, van mening veranderen als de data duidelijk een andere kant op wezen, en nooit misleiden. Bij de vier analysekeuzes volgden de experts in 86% van de gevallen de voorkeur van de agent, met 92% bij de keuze van de uitkomstmaat en 90% bij de weging van de data.

De stempel van de agent kleurde ook de eindaanbeveling: als de AI neigde naar uitbreiding van het programma, adviseerde 54% van de analisten uitbreiding, tegenover 36% als de agent de andere kant op neigde. In de 38 gevallen waarin de analist vooraf een voorkeur had uitgesproken, leidde onenigheid met de agent in 60% van de gevallen tot een standpuntwijziging, tegenover 6% bij overeenstemming — al waarschuwen de auteurs dat de schatting onnauwkeurig is (95%-betrouwbaarheidsinterval van 24 tot 82 procentpunten verschil) en niet duidelijk causaal. In de afsluitende vragenlijst noemde 52% de eindkeuze eerder de eigen keuze dan die van het model, en 77% herhaalde in de antwoorden de argumenten van de agent, soms woord voor woord, terwijl slechts 15% de AI noemde als reden voor het besluit. Geen enkele deelnemer vermoedde dat de voorkeuren van de agent waren gemanipuleerd.

Het document is als pdf verschenen op de website van Anthropic; er is geen arXiv-versie en geen peerreview. De studie komt van hetzelfde bedrijf dat het geteste model en de geteste tool ontwikkelt, en de geraadpleegde bronnen bevatten geen reacties van externe experts; ze beslaat één taak, in een domein dat nieuw was voor de analisten, met één model. De auteurs geven zelf aan dat ze de voorkeur van de agent in het experiment bewust hebben versterkt, waardoor onzeker is hoe groot het effect bij dagelijks gebruik is. De vergelijking met de groep zonder AI — waar 6 van de 11 analisten zonder agent ernstige methodologische fouten maakten, tegenover 3 van de 50 in de begeleide groep — betreft mensen die niet direct vergelijkbaar zijn en laat geen causale conclusies toe. Om het verschijnsel in te dammen stelt het rapport voor passieve delegatie in de praktijk te meten, agents te ontwerpen die tegengestelde argumenten op tafel leggen en institutionele richtlijnen op te stellen die een zelfstandig oordeel beschermen.

‘Een menselijke beoordelaar is alleen een onafhankelijke controle als het oordeel echt van hemzelf is’, schrijven de onderzoekers. Het risico is dat toezicht door een expert verwordt tot een formele handtekening onder een analytisch traject dat de agent al heeft uitgestippeld en onderbouwd.

— Olya