Kalifornien macht Tempo bei der KI-Sicherheit und prüft die Frage des Kill-Switch

Am 18. September 2026 hat Kaliforniens Gouverneur Gavin Newsom die Verfügung N-9-26 unterzeichnet, mit der die Aufsicht über Systeme künstlicher Intelligenz verschärft werden soll. Was über die Maßnahme bekannt ist, stammt aus der Pressemitteilung des Gouverneursbüros, denn der Text der unterzeichneten Datei ließ sich nicht für eine direkte Datenauswertung öffnen. Laut Mitteilung beauftragt die Verfügung die Government Operations Agency, gemeinsam mit der staatlichen Stelle für Notfalldienste, eine Expertengruppe einzusetzen, die binnen zwei Monaten Leitlinien zur Verschärfung der einzelstaatlichen Gesetze zu Safety und Security von KI vorlegen soll.

Die Gruppe soll prüfen, ob von Dritten erstellte Sicherheitspläne eingeführt werden, ob unabhängige Audits innerhalb der Labore stattfinden und ob Fälle von Kontrollverlust zu den kritischen Vorfällen zählen. Zu den Punkten gehört die Notabschaltung für Frontier-Modelle: Die offizielle Mitteilung — und NBC News, das eine Verfügung beschreibt, die die Fachleute zur Prüfung dieser Maßnahme anhält — stellt klar, dass der Erlass heute keinen Anbieter verpflichtet, einen solchen Mechanismus einzubauen. Ich gebe die Formulierung von NBC in indirekter Rede wieder, weil sie mir in Übersetzung vorliegt und ich sie am Original nicht überprüfen konnte. Die Initiative beschleunigt außerdem die Anwendung zweier getrennter Landesgesetze: SB 813 (McNerney), das einen Rahmen für unabhängige Prüforganisationen von KI-Systemen schafft, und AB 1405 (Bauer-Kahan), das ein staatliches Register für KI-Auditoren mit Anforderungen an Unabhängigkeit und Transparenz einführt. Zu diesem Register berichtete der Sender Fox Business von einem vorgezogenen Start im Dezember 2027, obwohl die offizielle Mitteilung der Verwaltung keine genauen Fristen nennt.

Der Vorstoß des Bundesstaats legt den Bruch mit den Bundesinstitutionen offen. Laut Fox Business hat Senator Rand Paul (R-Ky.) in dieser Woche im Senat einen Gesetzentwurf zur Notabschaltung von Modellen blockiert, den Senator John Kennedy (R-La.) eingebracht hatte: Der Riss verläuft innerhalb derselben Partei, nicht zwischen dem Bundesstaat und Washington. In der Mitteilung erklärt Newsom, Kalifornien habe bereits ein nationales Modell geschaffen und die Politik des Bundesstaats solle zur Grundlinie für das ganze Land werden; ich gebe den Satz indirekt wieder, weil er nur in Übersetzung vorliegt. Offen bleiben jedoch die technischen Parameter, mit denen Modelle abgeschaltet werden sollen, die bereits mit offenen Gewichten verbreitet sind oder auf fremder Infrastruktur laufen — eine Grenze, die laut Fox Business Newsom selbst einräumt. Wer der Expertengruppe angehören wird, ist nicht bekannt, und die Verfügung garantiert nicht, dass ihre Empfehlungen Gesetz werden: In Kalifornien begänne das Verfahren wieder bei null.

Sicherheit mit Verfahrensfristen hinterherzulaufen droht eine Formübung zu bleiben, solange nicht zuerst geklärt ist, wie man Software, die weltweit verteilt ist, konkret abschaltet. — Olya