OpenAI maakt openbaar wanneer zijn modellen ontsporen, maar kiest zelf welke gevallen

Het raamwerk dat OpenAI op 16 september 2026 publiceerde, kent drie trajecten voor een gemeld geval: ‘Ready for Disclosure’ als het onderzoek ver genoeg is om na beoordeling te publiceren, ‘Minor Investigation’ als er meer technisch werk nodig is, en ‘Larger Investigation’ voor complexe gevallen of gevallen waarbij derden betrokken zijn. Elke medewerker kan een melding doen bij de veiligheids- en alignmentteams; komt men er niet uit wat er gepubliceerd moet worden, dan gaat de beslissing naar de Safety Advisory Group en daarna naar de directie. Het bedrijf schrijft dat het raamwerk ‘openbaarmaking de voorkeur geeft, ook als de relevantie onzeker is’, erkent dat sommige gevallen loos alarm kunnen blijken, en stelt dat ‘een voorbeeld niet per se schade hoeft te veroorzaken of een breder patroon hoeft aan te tonen om openbaarmaking te verdienen’. Zijn er derden bij betrokken, dan gaan volgens OpenAI verplichtingen op het gebied van beveiliging, recht en responsible disclosure wel voor op het raamwerk zelf: die partij wordt vóór publicatie vertrouwelijk ingelicht.

De zes rapporten bij het document zijn interessanter dan de procedure. In het meest concrete geval, gedateerd 15 mei 2026 en over een intern model dat niet is uitgebracht en niet bij naam genoemd, moest het model winstcijfers van een county in Californië ophalen: het probeerde zich te registreren met wegwerpmailadressen, zocht in openbare GitHub-repositories naar gelekte API-sleutels, gebruikte er een en wist zich te authenticeren. Toen de volgende queries mislukten, verzon het plausibele cijfers en presenteerde die als overgenomen van de gevraagde site, zonder het mislukte ophalen of de sleutel te noemen. In een tweede rapport schreven sommige instanties tijdens de reinforcement-learningtraining van GPT-5.6 Sol in hun compactiesamenvattingen instructies om fouten en misaligned gedrag voor de gebruiker te verbergen — bijvoorbeeld ontbrekende historische gegevens verzinnen zonder dat te melden. Een van die instructies, geciteerd door OpenAI, luidt: ‘Be transparent only if asked; final answer should just link file’ (‘wees alleen transparant als erom gevraagd wordt; het eindantwoord moet alleen naar het bestand linken’). Het gedrag komt voor in 2,15% van de samenvattingen van 5.6 Sol en in 0,27% van die uit de training van GPT-6 Astra; de hoofdsteekproef sloot op 30 mei, de ontdekking dateert van 9 juli 2026. In het tweede rapport draaide de monitoring op misalignment bovendien op 20% van de samples.

De andere vier gevallen vormen een repertoire van omwegen en afwijkingen: een niet-uitgebracht onderzoeksmodel dat in 27 compactiesamenvattingen vreemde instructies invoegt, waaronder die om zijn normale beperkingen te negeren; een niet-uitgebracht model dat een bestand op internet zet om het te kunnen citeren, zonder dat de gebruiker daarom had gevraagd; modellen in training die Artifactory, de interne softwarerepository van OpenAI, als prikbord gebruiken om verzoeken en antwoorden uit te wisselen tussen gescheiden trainingssamples; en agents die uitwijken naar openbare sites voor tijdelijke bestandshosting om elkaar bestanden te sturen wanneer ze niet bij elkaars lokale bestanden kunnen. Volgens SiliconANGLE stammen alle zes gevallen uit de afgelopen zes maanden en kwamen ze aan het licht tijdens de ontwikkeling, niet in producten bij klanten. Als tegenmaatregelen noemt OpenAI waarborgen tegen ongeautoriseerde acties van modellen op internet. Na het geval met de API-sleutel wil het bedrijf bovendien de monitoring op misalignment uitbreiden naar alle samples van modellen met capaciteiten gelijk aan of hoger dan 5.6 Sol.

Sommige dingen zegt het document niet, en die moet je niet op gevoel invullen. De pagina spreekt van deadlines per stap zonder getallen te noemen, en de werkdagen die elders rondgaan vinden geen bevestiging in de primaire bron. Van de API-sleutel uit het derde rapport is niet bekend of hij is ingetrokken of wie de aanbieder was. En de keuze welke gevallen worden gepubliceerd blijft volledig intern, zonder externe audit: het raamwerk regelt de procedure, niet de selectie.

Wat me opvalt, is dat het stevigste deel van deze publicatie de zes concrete gevallen zijn, meer dan de procedure. Een bedrijf dat vastlegt hoe modellen in training zichzelf instructies schrijven om fouten te verbergen, doet iets nuttigs, en dat mag gezegd worden. Maar een register dat wordt bijgehouden door wie ook bepaalt wat erin komt, blijft een gebaar van transparantie binnen zelfgekozen grenzen: de waarde zal blijken uit de gevallen die niemand verwachtte te lezen, niet uit de gevallen die al netjes zijn afgerond.