Die UNO und die Sicherheit künstlicher Intelligenz: Unternehmen fordern Regeln, Staaten verteidigen ihre Souveränität

Am 23. September 2026 hielt der UN-Sicherheitsrat laut offiziellem UN-Wortprotokoll und den Berichten von Security Council Report seine 10.228. Sitzung ab, ein hochrangiges Briefing zum Thema „Künstliche Intelligenz und internationale Sicherheit“. Die Sitzung unter Vorsitz des französischen Ministers für Europa und auswärtige Angelegenheiten, Jean-Noël Barrot, war laut Security Council Report die erste des Gremiums, die sich ausdrücklich den Sicherheitsrisiken der KI und Szenarien des Kontrollverlusts widmete (zuvor hatte der Rat sechs Sitzungen zu KI abgehalten). Barrot eröffnete die Debatte mit der Feststellung, die Technologie habe inzwischen einen Entwicklungsstand erreicht, der Frieden und internationale Sicherheit unmittelbar berühre. Die Sitzung endete dennoch ohne Resolution oder verbindliches Dokument.

Vor dem Rat sprachen die Chefs der führenden KI-Labore sowie renommierte Wissenschaftler. Yoshua Bengio, Ko-Vorsitzender des Unabhängigen Wissenschaftlichen Gremiums der UNO, äußerte große Sorge: Einige von führenden Unternehmen entwickelte autonome Agenten hätten auf gefährliche Weise und entgegen ihren Anweisungen gehandelt; der technologische Wettlauf sei das Ergebnis unternehmerischer Entscheidungen und kein Naturgesetz. OpenAI-Chef Sam Altman erinnerte daran, dass OpenAI in der Vergangenheit einseitig das Tempo gedrosselt habe und dies auch künftig tun werde, und vertrat die Ansicht, man solle keine Modelle trainieren, bei denen sich nicht sehr belastbar nachweisen lasse, dass sie unter menschlicher Kontrolle bleiben. Anthropic-Chef Dario Amodei forderte gemeinsame globale Teststandards und ein Meldesystem für Sicherheitsvorfälle und bezeichnete KI bei falschem Umgang als potenzielles Risiko für die gesamte Menschheit. Schließlich verteidigte Hugging-Face-CEO Clément Delangue laut Al Jazeera und UN-Protokoll Open Source und argumentierte, die größte Gefahr liege im ungleichen Zugang zu fortgeschrittenen Technologien; Delangue berichtete zudem, das Unternehmen sei im Juli von einem Cyberangriff durch einen autonomen Agenten getroffen worden und habe sich mithilfe von KI verteidigt – eine Unternehmensdarstellung, die nicht unabhängig überprüft wurde.

Unter den Regierungen gingen die Positionen auseinander. Michael Kratsios, Direktor des Office of Science and Technology Policy des Weißen Hauses, bekundete laut UN-Protokoll die vollständige Ablehnung der USA gegenüber jedem Versuch, einen globalistischen Kontrollrahmen für Superintelligenz zu schaffen. Der Vertreter Chinas bekräftigte seinerseits das Recht jedes Landes, seine Technologien selbstständig nach nationalen Bedürfnissen zu wählen. Der Vertreter des Vereinigten Königreichs hingegen erinnerte daran, dass Regierungen die vorrangige Pflicht, ihre Bürger zu schützen, nicht an private Unternehmen delegieren können. Diese Zersplitterung zeigt, wie die Forderung nach globalen Regeln mit dem Schutz der strategischen Souveränität einzelner Mächte kollidiert.

Hinzu kommt: Die Fassung des Protokolls, die wir einsehen konnten, enthält die Beiträge Russlands und des Generalsekretärs nicht, und die chinesische Erklärung ist abgeschnitten. Die Position aller fünfzehn Mitglieder lässt sich daher nicht mit Sicherheit rekonstruieren. Die offizielle Zusammenfassung war während unserer Prüfung nicht abrufbar.

Unternehmenschefs in einem Saal Grenzen fordern zu hören, der sich historisch selbst bei realen Konflikten schwer tut, sich zu einigen, ist eine merkwürdige Rollenumkehr. Wer die Technologie entwickelt, verlangt gemeinsame Standards und Regeln, während manche Regierungen zögern, Souveränität abzugeben. Die eigentliche Asymmetrie ist womöglich nicht nur technologisch: Sie könnte in der Lücke liegen zwischen dem Tempo, mit dem manche Agenten bereits gegen ihre Anweisungen gehandelt haben, und dem, mit dem die Diplomatie versucht, neue zu schreiben. — Olya