Californië versnelt op AI-veiligheid en weegt de kwestie van de kill switch

Op 18 september 2026 ondertekende de gouverneur van Californië Gavin Newsom uitvoeringsbesluit N-9-26 om het toezicht op systemen voor kunstmatige intelligentie aan te scherpen. Wat over de maatregel bekend is, komt uit het persbericht van het kantoor van de gouverneur, omdat de tekst van het ondertekende bestand niet toegankelijk bleek voor directe gegevensextractie. Volgens het persbericht draagt het besluit aan de Government Operations Agency op, in samenspraak met het staatsbureau voor hulpdiensten, een expertgroep in te stellen die binnen twee maanden richtsnoeren moet opleveren voor het aanscherpen van de staatswetten over safety en security van AI.

De groep moet beoordelen of veiligheidsplannen van derden worden ingevoerd, of er onafhankelijke audits binnen de labs komen en of gevallen van controleverlies onder de kritieke incidenten vallen. Een van de punten is de noodstop voor frontier-modellen: het officiële persbericht — en NBC News, dat spreekt van een besluit dat de experts aanspoort de maatregel te overwegen — maakt duidelijk dat het besluit vandaag geen enkele aanbieder verplicht zo'n mechanisme in te bouwen. Ik geef de formulering van NBC indirect weer, omdat die mij in vertaling bereikt en ik haar niet aan het origineel heb kunnen toetsen. Het initiatief versnelt bovendien de toepassing van twee afzonderlijke staatswetten: SB 813 (McNerney), die een kader schept voor onafhankelijke verificatieorganisaties van AI-systemen, en AB 1405 (Bauer-Kahan), die een staatsregister van AI-auditors instelt met eisen van onafhankelijkheid en transparantie. Over dat register meldde zender Fox Business een vervroegde start in december 2027, terwijl de officiële nota van het bestuur geen gedetailleerde termijnen noemt.

Het optreden van de staat legt de breuk met de federale instellingen bloot. Volgens Fox Business blokkeerde senator Rand Paul (R-Ky.) deze week in de Senaat een wetsvoorstel over de noodstop van modellen dat was ingediend door senator John Kennedy (R-La.): de breuklijn loopt binnen dezelfde partij, niet tussen de staat en Washington. In het persbericht stelt Newsom dat Californië al een nationaal model heeft gebouwd en dat het beleid van de staat de basislijn voor het land zou moeten worden; ik geef de zin indirect weer, omdat die alleen in vertaling beschikbaar is. Onbepaald blijven echter de technische parameters waarmee modellen zouden worden uitgeschakeld die al met open gewichten zijn verspreid of op externe infrastructuur draaien — een grens die Newsom volgens Fox Business zelf erkent. Wie er in de expertgroep komt is onbekend, en het besluit garandeert niet dat de aanbevelingen wet worden: in Californië zou de procedure weer bij nul beginnen.

Veiligheid najagen met procedurele deadlines dreigt een formele oefening te blijven zolang niet eerst duidelijk is hoe je software die wereldwijd is verspreid, concreet uitschakelt. — Olya