Superintelligentie verbieden: het wetsvoorstel dat het debat van vrijwillige codes naar het strafrecht verplaatst

Tot nu toe regelden Amerikaanse voorstellen over kunstmatige intelligentie het gebruik ervan: wie wat mag doen, met welke waarborgen, onder welk toezicht. Het voorstel dat op 23 september 2026 werd ingediend door senator Bernie Sanders (onafhankelijk, Vermont) en Congreslid Greg Casar (Democraat, Texas), voorzitter van de Congressional Progressive Caucus, doet iets anders: het verbiedt. 'Kunstmatige superintelligentie' — gedefinieerd als een systeem dat de menselijke cognitieve prestaties op de meeste terreinen overtreft, of dat over voldoende vermogens beschikt om de mensheid te vernietigen of buitenspel te zetten, onder meer door de federale regering omver te werpen — zou niet ontwikkeld en niet ingezet mogen worden. Naast het verbod zou er een Department of Artificial Intelligence op ministerieel niveau komen, verantwoordelijk voor veiligheid en voor de handhaving van de verboden. De ontwikkeling van geavanceerde AI zou stilliggen tot dat orgaan regels en toetsingsprocedures heeft vastgesteld, en volgens Associated Press zou er daarna federale goedkeuring nodig zijn om geavanceerde systemen in gebruik te nemen. Sommige vermogens zouden meteen worden stopgezet, zonder op de regels te wachten: de persberichten noemen de ontwikkeling van biochemische wapens en het vermogen van een AI om in plaats van mensen nieuwe AI's te bouwen.

Het verschil zit in de sancties. Voor bedrijven voorziet het voorstel in de 'doodstraf voor ondernemingen', oftewel ontbinding; voor natuurlijke personen tot twintig jaar cel. De indieners noemen hun maatstaf openlijk: de straffen op de illegale ontwikkeling van kernwapens. Internationaal stelt het voorstel als doel van de VS verdragen tussen landen, coördinatie tussen bondgenoten en instrumenten als exportcontroles, zodat het verbod niet ophoudt bij de landsgrenzen. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", verklaarde Casar („Ons wetsvoorstel verbiedt de ontwikkeling van kunstmatige superintelligentie en zet in op internationale afspraken, zodat niemand, waar dan ook, AI bouwt die te krachtig is om door mensen te worden beheerst”). En Sanders: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" („Als de toekomst van de mensheid op het spel staat, hebben we bindende internationale veiligheidsregels nodig, geen vrijwillige normen van de industrie”).

Hier begint het probleem dat het persbericht niet oplost. De definitie van superintelligentie is kwalitatief: er is geen drempel voor rekenkracht, geen meetbare parameter, geen datum. Het is onduidelijk welke systemen onder de 'geavanceerde AI' zouden vallen waarvoor de pauze geldt, en hoe lang die pauze zou duren. Ik moet erbij zeggen dat ik de volledige wettekst niet heb kunnen lezen: de website van de Senaat en de samenvattende pdf gaven allebei een 403, dus het bovenstaande komt uit de twee officiële persberichten en het AP-bericht. Er zijn op dit moment geen andere mede-indieners bekend dan de twee initiatiefnemers, en volgens AP heeft het voorstel weinig kans in een Congres met een Republikeinse meerderheid, waar zelfs over veel beperktere regels geen overeenstemming bestaat. De lijn die het Witte Huis tot nu toe heeft uitgedragen, is tegen meer publiek toezicht. Bij de presentatie spraken ook een onderzoeker van het Safety Systems-team van OpenAI en een software-engineer van Google DeepMind, die allebei benadrukten op persoonlijke titel te spreken. Van de eerste komt de formule "superintelligence could either go extremely right or extremely wrong" („superintelligentie kan extreem goed of extreem slecht uitpakken”).

Een wet die iets verbiedt zonder te kunnen zeggen wanneer dat iets bestaat, is in de handhaving een serieus probleem: de drempel zou uiteindelijk per geval door een agentschap worden bepaald, en juist rond die drempel zouden de juridische aanvechtingen zich ophopen. Maar het interessante effect zit ergens anders en hangt niet af van aanneming. Jarenlang was de publieke vraag hoeveel veiligheid bedrijven vrijwillig beloven te bieden; dit voorstel herformuleert die als: hoeveel moeten ze bieden om geen misdrijf te plegen. Het verschil tussen een toezegging en een tenlastelegging is geen gradueel verschil: in het eerste geval beslist het bedrijf, in het tweede de wet.

— Olya