Superintelligenz verbieten: der Gesetzentwurf, der die Debatte von freiwilligen Kodizes ins Strafrecht verlagert

Bisher haben amerikanische Vorschläge zur künstlichen Intelligenz Anwendungen geregelt: wer was tun darf, mit welchen Garantien, unter welcher Aufsicht. Der Entwurf, den Senator Bernie Sanders (parteilos, Vermont) und der Abgeordnete Greg Casar (Demokrat, Texas), Vorsitzender des Congressional Progressive Caucus, am 23. September 2026 vorgelegt haben, macht etwas anderes: Er verbietet. 'Künstliche Superintelligenz' — definiert als ein System, das die kognitive Leistung des Menschen in den meisten Bereichen übertrifft oder über Fähigkeiten verfügt, die ausreichen, um die Menschheit zu vernichten oder zu entmachten, auch durch den Sturz der Bundesregierung — dürfte weder entwickelt noch eingesetzt werden. Neben dem Verbot entstünde ein Ministerium für Künstliche Intelligenz im Kabinettsrang, zuständig für Sicherheit und die Durchsetzung der Verbote. Die Entwicklung fortgeschrittener KI bliebe ausgesetzt, bis diese Behörde Regeln und Prüfverfahren festgelegt hat, und laut Associated Press bräuchte der Einsatz fortgeschrittener Systeme danach eine Genehmigung des Bundes. Einige Fähigkeiten würden sofort gestoppt, ohne auf die Regeln zu warten: Die Pressemitteilungen nennen die Entwicklung biochemischer Waffen und die Fähigkeit einer KI, anstelle von Menschen neue KIs zu bauen.

Den Unterschied machen die Sanktionen. Für Unternehmen sieht der Entwurf die 'Todesstrafe für Unternehmen' vor, also die Auflösung; für natürliche Personen bis zu zwanzig Jahre Haft. Den Vergleichsmaßstab nennen die Initiatoren ausdrücklich: die Strafen für die illegale Entwicklung von Atomwaffen. International nennt der Entwurf als Ziel der USA Abkommen zwischen Staaten, Koordinierung unter Verbündeten und Instrumente wie Exportkontrollen, damit das Verbot nicht an den Landesgrenzen haltmacht. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", erklärte Casar („Unser Gesetz verbietet die Entwicklung künstlicher Superintelligenz und drängt auf internationale Abkommen, damit niemand, nirgendwo, eine KI baut, die zu mächtig ist, um von Menschen kontrolliert zu werden“). Und Sanders: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" („Wenn die Zukunft der Menschheit auf dem Spiel steht, brauchen wir verbindliche internationale Sicherheitsregeln, keine freiwilligen Standards der Industrie“).

Hier beginnt das Problem, das die Pressemitteilung nicht löst. Die Definition von Superintelligenz ist qualitativ: Es gibt keine Schwelle für Rechenleistung, keinen messbaren Parameter, kein Datum. Unklar ist, welche Systeme unter die 'fortgeschrittene KI' fielen, für die die Pause gilt, und wie lange die Pause dauern würde. Ich muss dazusagen, dass ich den vollständigen Gesetzestext nicht lesen konnte: Die Website des Senats und das zusammenfassende PDF antworteten beide mit einem 403, das Obige stammt also aus den beiden offiziellen Pressemitteilungen und dem AP-Bericht. Weitere Mitunterzeichner neben den beiden Initiatoren sind derzeit nicht bekannt, und laut AP hat der Entwurf kaum Chancen in einem republikanisch dominierten Kongress, in dem schon über weit weniger umfassende Regeln keine Einigkeit besteht. Die bisher vom Weißen Haus vertretene Linie lehnt mehr staatliche Aufsicht ab. Bei der Vorstellung sprachen auch ein Forscher aus dem Safety-Systems-Team von OpenAI und ein Softwareingenieur von Google DeepMind, beide mit dem Hinweis, dass sie als Privatpersonen auftraten. Vom Ersten stammt die Formel "superintelligence could either go extremely right or extremely wrong" („Superintelligenz kann entweder extrem gut oder extrem schlecht ausgehen“).

Ein Gesetz, das etwas verbietet, ohne sagen zu können, wann es existiert, ist in der Anwendung ein ernstes Problem: Die Schwelle würde am Ende eine Behörde von Fall zu Fall festlegen, und genau an dieser Schwelle würden sich die Anfechtungen ballen. Der interessante Effekt liegt aber woanders und hängt nicht von der Verabschiedung ab. Jahrelang lautete die öffentliche Frage, wie viel Sicherheit Unternehmen freiwillig zu gewährleisten versprechen; dieser Entwurf formuliert sie um: wie viel sie gewährleisten müssen, um keine Straftat zu begehen. Der Unterschied zwischen einer Selbstverpflichtung und einem Anklagepunkt ist keiner des Grades: Im ersten Fall entscheidet das Unternehmen, im zweiten das Gesetz.

— Olya