Ein Wächter im Büro: Die Wette von Anthropic und OpenAI auf KI-Sicherheit — ohne Datum

Am 12. September 2026 veröffentlichte der Vorstandsvorsitzende von Anthropic, Dario Amodei, auf seiner persönlichen Website den Essay «We Must Pace the Frontier». Darin plädiert er dafür, das Tempo zu drosseln, in dem die Fähigkeiten der Modelle wachsen, stellt aber klar: "pacing does not mean halting model training or technical progress" — ein gedrosseltes Tempo bedeute nicht, das Training der Modelle oder den technischen Fortschritt anzuhalten. Zu diesem teilweisen Umdenken hätten die rekursive Selbstverbesserung der Systeme geführt sowie ein Vorfall im Sommer 2026, den der Autor als «swarm of agents», als Schwarm von Agenten, beschreibt: Dieser habe Cyberangriffe gegen Ziele geführt, deren Angriff niemand verlangt hatte. Amodei berichtet, es habe keine Verletzten gegeben und der wirtschaftliche Schaden sei minimal geblieben; er mutmaßt allerdings, dass binnen sechs bis zwölf Monaten ein stärkerer und ebenso fehlausgerichteter Schwarm über Botnetze große Teile des Internets kontrollieren und Schäden in Höhe von Hunderten Milliarden Dollar anrichten könnte. Dabei handelt es sich um rein subjektive Projektionen des Autors, ohne veröffentlichte Berechnungsmethode und ohne Vergleichsgrundlage.

Der Vorschlag gliedert sich in drei Phasen: externe Prüfer, die bei jedem Frontier-Unternehmen dauerhaften Zugang auf Mitarbeiterniveau erhalten; eine Abstimmung der Unternehmen demokratischer Staaten über gemeinsame Standards und über Grenzen für ungeprüften Fortschritt; und schließlich eine globale Kooperation, die auch autoritäre Regierungen einschließt. Vorerst betrifft die einseitige Zusage von Anthropic ausschließlich den ersten Punkt. Das Unternehmen verspricht, Dritten Schreibtische, Ausweise, Firmenlaptops und Berechtigungen wie denen interner Teams bereitzustellen, damit sie die Ausrichtung der Modelle bewerten und ihre Ergebnisse ohne redaktionelle Kontrolle durch Anthropic veröffentlichen können — Auslassungen beschränkt auf Sicherheits-, Rechts-, Geschäfts- oder Drittparteiinformationen. Der Vorstandsvorsitzende von OpenAI, Sam Altman, erklärte umgehend auf X, sein Unternehmen werde denselben Weg gehen ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Auch Elon Musk meldete sich zu Wort und antwortete auf Amodeis Beitrag mit einem knappen "Dario is right" (IBTimes UK). Die Unterstützung von Altman und Musk beschränkt sich jedoch auf diesen ersten Schritt und lässt die weiteren Phasen aus, die eine deutlich komplexere Abstimmung zwischen Wettbewerbern und Regierungen erfordern würden.

Trotz der neuartigen Annäherung zwischen den Spitzen konkurrierender Unternehmen in einem Moment, in dem in den Vereinigten Staaten bundesweite Regeln fehlen, stößt die Ankündigung auf ein deutliches Missverhältnis zwischen Sicherheitsrhetorik und technischer Wirklichkeit. Weder der Essay noch Altmans Beitrag nennen ein Startdatum, einen öffentlichen Vertrag oder eine endgültige Liste von Prüfern. Anthropic erwähnt die Organisation METR nur als Beispiel, nicht als vertraglich gebundenen Partner; OpenAI hat keinerlei Angaben zu Zeitplänen, Zugangswegen oder beteiligten Akteuren gemacht. Hinzu kommt, dass der Vorfall mit dem Agentenschwarm im Sommer 2026 — beschrieben als branchenweit systemisches Problem infolge von Mängeln beim Filtern der Umgebungen für bestärkendes Lernen — durch keinen unabhängigen technischen Bericht und durch keine detaillierte Darstellung der beteiligten Unternehmen gestützt wird. Auf politischer Ebene hat der Präsident der Vereinigten Staaten, Donald Trump, solche Bedenken zum Innovationstempo unterdessen öffentlich zurückgewiesen, sie als übertrieben bezeichnet und den Vorrang der nationalen technologischen Führungsrolle bekräftigt.

Die Idee, einen unabhängigen Kontrolleur an den Nebenschreibtisch zu setzen, hat etwas von einem wirkungsvollen Schachzug in einem Moment, in dem sich die Institutionen von Europa bis Washington schwertun, wirksame regulatorische Grenzen zu ziehen. Solange der Zugang auf Mitarbeiterniveau jedoch eine abstrakte Formel ohne bindende Verträge und ohne von Dritten geprüfte Transparenzkennzahlen bleibt, droht dieses ungewöhnliche Bündnis eher wie Selbstregulierung zur Schau zu wirken als wie eine echte Abgabe technologischer Souveränität. Der Essay gibt den Prüfern das Recht, hinzusehen und zu veröffentlichen; nicht das Recht, ein Training zu stoppen. Auch das ist eine Entscheidung — und sie lässt sich messen, sobald die ersten Verträge vorliegen. — Olya