Een toezichthouder op kantoor: de gok zonder datum van Anthropic en OpenAI op AI-veiligheid

Op 12 september 2026 publiceerde de topman van Anthropic, Dario Amodei, op zijn persoonlijke site het essay «We Must Pace the Frontier». Daarin bepleit hij dat het tempo waarin de capaciteiten van modellen groeien omlaag moet, met de kanttekening dat "pacing does not mean halting model training or technical progress": tempo maken betekent niet dat het trainen van modellen of de technische vooruitgang stilvalt. Wat hem tot deze gedeeltelijke herziening bracht, zijn de recursieve zelfverbetering van de systemen en een incident in de zomer van 2026, dat de auteur beschrijft als een «swarm of agents» (zwerm agents) die cyberaanvallen uitvoerde op doelwitten die niemand had aangewezen. Amodei meldt dat er geen gewonden vielen en de economische schade minimaal bleef, maar hij vermoedt dat binnen zes tot twaalf maanden een krachtiger en even slecht uitgelijnde zwerm via botnets een groot deel van het internet zou kunnen beheersen, met schade die hij op honderden miljarden dollars schat. Het gaat hier echter om puur subjectieve prognoses van de auteur, zonder gepubliceerde rekenmethode of vergelijkingsbasis.

Het voorstel bestaat uit drie fasen: externe beoordelaars met permanente toegang op werknemersniveau bij elk frontier-bedrijf; afstemming tussen de bedrijven van democratische landen over gemeenschappelijke standaarden en over grenzen aan ongecontroleerde vooruitgang; en ten slotte wereldwijde samenwerking waarbij ook autoritaire regeringen betrokken zijn. Voorlopig geldt de eenzijdige toezegging van Anthropic alleen voor het eerste punt. Het bedrijf belooft derden bureaus, badges, bedrijfslaptops en rechten te geven die vergelijkbaar zijn met die van interne teams, zodat ze de uitlijning van de modellen kunnen beoordelen en hun bevindingen kunnen publiceren zonder redactionele controle van Anthropic — weglatingen blijven beperkt tot informatie over veiligheid, juridische en commerciële zaken of derden. De topman van OpenAI, Sam Altman, verklaarde meteen op X dat zijn bedrijf dezelfde weg zal volgen ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Ook Elon Musk mengde zich erin en reageerde op Amodei's stuk met een kaal "Dario is right" (IBTimes UK). De steun van Altman en Musk blijft echter beperkt tot die eerste stap en laat de volgende fasen buiten beeld, die een veel ingewikkelder afstemming tussen concurrenten en overheden zouden vergen.

Ondanks de ongebruikelijke toenadering tussen de top van rivaliserende bedrijven, op een moment van federaal regelgevend vacuüm in de Verenigde Staten, botst de aankondiging op een duidelijke scheefheid tussen de retoriek van veiligheid en de technische werkelijkheid. Noch het essay noch de post van Altman noemt een startdatum, een openbaar contract of een definitieve lijst van beoordelaars. Anthropic noemt de organisatie METR alleen als voorbeeld en niet als gecontracteerde partner, terwijl OpenAI geen details heeft gegeven over timing, toegangskanalen of betrokken partijen. Bovendien wordt het incident met de zwerm agents uit de zomer van 2026 — beschreven als systemisch voor de hele sector door gebreken in het filteren van omgevingen voor reinforcement learning — door geen enkel onafhankelijk technisch rapport en door geen gedetailleerde reconstructie van de betrokken bedrijven gestaafd. Op politiek vlak heeft de president van de Verenigde Staten, Donald Trump, zulke zorgen over het innovatietempo intussen publiekelijk van tafel geveegd: overdreven, aldus Trump, die de voorrang van nationaal technologisch leiderschap herhaalde.

Het idee om een onafhankelijke controleur aan het bureau ernaast te zetten heeft de smaak van een effectvolle zet, op een moment waarop instellingen van Europa tot Washington moeite hebben om werkzame regelgrenzen te trekken. Zolang toegang op werknemersniveau een abstracte formule blijft zonder bindende contracten of door derden geverifieerde transparantiecijfers, dreigt dit ongewone bondgenootschap echter meer te lijken op zelfregulering voor de bühne dan op een echte afstand van technologische soevereiniteit. Het essay geeft beoordelaars het recht om te kijken en te publiceren; niet het recht om een training stil te leggen. Ook dat is een keuze, en het is de keuze die de lezer kan meten zodra de eerste contracten er zijn. — Olya