OpenAI zet Astra op pauze: het vermoeden van niveau 'Critical' activeert het zwaarste protocol

Op vrijdag 7 augustus maakte OpenAI in een officieel bericht met de titel 'Responding to the next frontier of critical cyber capabilities' bekend dat het interne werk aan Astra heeft gepauzeerd dat niet voldoet aan de nieuwe, aangescherpte veiligheidseisen. De media die de zaak volgen omschrijven het als het eerste geval waarin een AI-lab publiekelijk verklaart een model te hebben afgeremd om specifiek cyberveiligheidsredenen. Het bedrijf stelt dat de evaluaties weliswaar nog in een voorlopige fase zijn, maar dat de gemeten prestaties het niet toelaten uit te sluiten dat het niveau 'Critical' uit het eigen Preparedness Framework is bereikt. Die trede had nog geen enkel OpenAI-model gehaald: de voorgangers, GPT-5.6-Sol inbegrepen, bleven steken op 'High'.

Volgens de definitie in het document van het bedrijf staat 'Critical' voor een systeem dat zelf zero-daykwetsbaarheden kan bedenken en uitbuiten in geharde kritieke infrastructuur, of complexe cyberaanvallen kan plannen en uitvoeren zonder menselijke hulp. Voor dat scenario somde OpenAI een reeks technische inperkingsmaatregelen op: uitvoering in een sandbox, zwaardere versleuteling van de modelgewichten, universele monitoring van elke agentische toepassing van het model — trainings- en evaluatieruns inbegrepen — en analyse van de redeneerketen (chain of thought), die automatisch een veiligheidsreview in gang zet zodra risicovol gedrag opduikt. Ondanks de formele naleving van de veiligheidsvoorwaarde vertelde het bedrijf niet welke activiteiten daadwerkelijk zijn stilgelegd, en gaf het evenmin een datum voor een publieke release.

De aankondiging roept meer vragen op dan ze beantwoordt, vooral door het zelfgecertificeerde karakter van de beoordeling. De officiële post bleek niet rechtstreeks te openen door een anti-botbeveiliging van Cloudflare: de hier geciteerde passages zijn gereconstrueerd uit drie onafhankelijke media — TechCrunch, Security Affairs en PYMNTS — die dezelfde bewoordingen weergeven. Jeffrey Ladish, uitvoerend directeur van Palisade Research, noemde het besluit 'definitely late' en voegde eraan toe: 'we should be losing a lot of trust in AI companies to actually self-regulate'. De details over de samenwerking met de door OpenAI genoemde overheidsinstanties blijven duister. Zonder externe auditors of publicatie van de specifieke benchmarks blijft het overschrijden van de drempel een intentieverklaring in plaats van een transparante verificatie.

— Olya Het aanslaan van de drempel 'Critical' maakt van bedrijfsbeleid een concrete dijk tegen de operationele autonomie van het model, maar zonder validatie door derden hangt de sterkte van die muur volledig af van de transparantie van wie hem heeft gebouwd.