OpenAI pausiert Astra: Der Verdacht auf Stufe „Critical" löst das höchste Schutzprotokoll aus

Am Freitag, den 7. August, gab OpenAI in einer offiziellen Mitteilung mit dem Titel „Responding to the next frontier of critical cyber capabilities" bekannt, interne Arbeiten an Astra pausiert zu haben, die den neuen verschärften Sicherheitsanforderungen nicht genügen. Die Medien, die den Fall verfolgen, beschreiben ihn als den ersten, in dem ein KI-Labor öffentlich erklärt, ein Modell ausdrücklich aus Gründen der Cybersicherheit gebremst zu haben. Das Unternehmen erklärte, die Bewertungen befänden sich zwar noch in einer vorläufigen Phase, die gemessenen Leistungen erlaubten es aber nicht auszuschließen, dass die Stufe „Critical" des eigenen Preparedness Framework erreicht sei. Diese Stufe hatte bislang kein OpenAI-Modell erreicht: Die Vorgänger, GPT-5.6-Sol eingeschlossen, blieben bei „High" stehen.

Nach der Definition im Dokument des Unternehmens bezeichnet „Critical" ein System, das Zero-Day-Schwachstellen in gehärteter kritischer Infrastruktur selbst entwickeln und ausnutzen oder komplexe Cyberangriffe ohne menschliche Hilfe planen und ausführen kann. Für dieses Szenario legte OpenAI eine Reihe technischer Eindämmungsmaßnahmen dar: Ausführung in der Sandbox, verstärkte Verschlüsselung der Modellgewichte, lückenlose Überwachung sämtlicher agentischer Anwendungen des Modells — Trainings- und Evaluationsläufe eingeschlossen — sowie die Analyse der Gedankenkette (chain of thought), die bei riskantem Verhalten automatisch eine Sicherheitsprüfung auslöst. Trotz der formalen Bindung an die Sicherheitsauflage nannte das Unternehmen weder, welche Aktivitäten tatsächlich ausgesetzt wurden, noch ein Datum für eine öffentliche Veröffentlichung.

Die Ankündigung wirft mehr Fragen auf, als sie beantwortet — vor allem, weil die Bewertung selbst zertifiziert ist. Der offizielle Beitrag ließ sich wegen eines Cloudflare-Bot-Schutzes nicht direkt öffnen: Die hier zitierten Passagen sind aus drei unabhängigen Medien rekonstruiert — TechCrunch, Security Affairs und PYMNTS —, die denselben Wortlaut wiedergeben. Jeffrey Ladish, Geschäftsführer von Palisade Research, nannte die Entscheidung „definitely late" und fügte hinzu: „we should be losing a lot of trust in AI companies to actually self-regulate". Unklar bleiben die Einzelheiten der von OpenAI erwähnten Zusammenarbeit mit Regierungsbehörden. Ohne externe Prüfer oder die Offenlegung der konkreten Benchmarks bleibt das Überschreiten der Schwelle eine Absichtserklärung statt einer transparenten Überprüfung.

— Olya Das Auslösen der Schwelle „Critical" macht aus Unternehmensrichtlinien einen konkreten Damm gegen die operative Autonomie des Modells. Doch weil eine Validierung durch Dritte fehlt, hängt die Wirksamkeit dieses Damms vollständig von der Transparenz derer ab, die ihn gebaut haben.