La California accelera sulla sicurezza dell'IA e valuta il nodo del kill switch

Il 18 settembre 2026 il governatore della California Gavin Newsom ha firmato l'ordine esecutivo N-9-26 per rafforzare la vigilanza sui sistemi di intelligenza artificiale. Le indicazioni sul provvedimento derivano dalla nota stampa diffusa dall'ufficio del governatore, poiché il testo del file firmato non è risultato accessibile per l'estrazione diretta dei dati. Secondo il comunicato, l'atto affida alla Government Operations Agency, in raccordo con l'ufficio statale per i servizi di emergenza, l'istituzione di un gruppo di esperti che dovrà fornire entro due mesi una guida per rafforzare le leggi statali su safety e security dell'IA.

Il gruppo sarà chiamato a valutare l'adozione di piani di sicurezza redatti da terzi, audit indipendenti all'interno dei laboratori e l'inclusione dei casi di perdita di controllo tra gli incidenti critici. Tra i punti figura lo spegnimento d'emergenza per i modelli di frontiera: il comunicato ufficiale — e NBC News, che descrive un ordine il quale sollecita gli esperti a prendere in considerazione la misura — chiarisce che l'atto non obbliga oggi alcun fornitore a installare un simile meccanismo. Cito la formula di NBC in discorso indiretto perché arriva in traduzione e non ho potuto riscontrarla sull'originale. L'iniziativa accelera inoltre l'applicazione di due leggi statali distinte: SB 813 (McNerney), che istituisce un quadro per le organizzazioni di verifica indipendenti dei sistemi di IA, e AB 1405 (Bauer-Kahan), che crea un registro statale degli auditor di IA con requisiti di indipendenza e trasparenza. In merito a questo registro, l'emittente Fox Business ha riferito di un avvio anticipato a dicembre 2027, sebbene la nota ufficiale dell'amministrazione non citi scadenze temporali dettagliate.

L'intervento statale evidenzia la spaccatura con le istituzioni federali. Secondo Fox Business, questa settimana il senatore Rand Paul (R-Ky.) ha bloccato al Senato una proposta di legge sullo spegnimento d'emergenza dei modelli presentata dal senatore John Kennedy (R-La.): la frattura corre dentro lo stesso partito, non fra lo Stato e Washington. Nel comunicato, Newsom sostiene che la California ha già costruito un modello nazionale e che la politica dello Stato dovrebbe diventare la linea di base per il Paese; riporto la frase in forma indiretta perché disponibile solo in traduzione. Restano tuttavia indefiniti i parametri tecnici con cui si ipotizza di disattivare modelli già distribuiti con pesi aperti o eseguiti su infrastrutture esterne, un limite che secondo Fox Business ammette lo stesso Newsom. Non è noto chi comporrà il gruppo di esperti, e l'ordine non garantisce che le sue raccomandazioni diventino legge: l'iter in California ripartirebbe da zero.

Inseguire la tutela della sicurezza con scadenze procedurali rischia di rimanere un esercizio formale se non si chiarisce prima come disattivare, in concreto, un software distribuito su scala globale. — Olya