Vietare la superintelligenza: la proposta che sposta il dibattito dai codici volontari al codice penale

Finora le proposte americane sull'intelligenza artificiale hanno regolato usi: chi può fare cosa, con quali garanzie, sotto quale vigilanza. Il testo presentato il 23 settembre 2026 dal senatore Bernie Sanders (indipendente, Vermont) e dal deputato Greg Casar (democratico, Texas), che presiede il Congressional Progressive Caucus, fa un'altra cosa: vieta. La 'superintelligenza artificiale' — definita come un sistema che supera le prestazioni cognitive umane nella maggior parte dei domini, oppure dotato di capacità sufficienti a distruggere o esautorare l'umanità, anche rovesciando il governo federale — non potrebbe essere sviluppata né messa in uso. Accanto al divieto nascerebbe un Dipartimento dell'Intelligenza Artificiale di rango ministeriale, incaricato della sicurezza e dell'applicazione dei divieti; lo sviluppo dell'IA avanzata resterebbe sospeso finché quell'organismo non avesse fissato regole e procedure di revisione, e secondo l'Associated Press per mettere in uso sistemi avanzati servirebbe poi un'approvazione federale. Alcune capacità verrebbero fermate subito, senza attendere le regole: i comunicati citano lo sviluppo di armi biochimiche e la capacità di un'IA di costruire nuove IA al posto degli esseri umani.

La parte che fa la differenza è quella sanzionatoria. Per gli enti il testo prevede la 'pena di morte societaria', cioè lo scioglimento; per le persone fisiche fino a vent'anni di reclusione. I promotori dichiarano esplicitamente il termine di paragone: le pene per lo sviluppo illegale di armi nucleari. Sul piano internazionale la proposta indica come obiettivo degli Stati Uniti accordi tra paesi, coordinamento fra alleati e strumenti come i controlli sulle esportazioni, perché il divieto non si fermi ai confini nazionali. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", ha dichiarato Casar («La nostra proposta vieta lo sviluppo della superintelligenza artificiale e spinge per accordi internazionali, perché nessuno, da nessuna parte, costruisca un'IA troppo potente per essere controllata dagli esseri umani»). E Sanders: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" («Quando è in gioco il futuro dell'umanità servono regole di sicurezza internazionali vincolanti, non standard volontari dell'industria»).

Qui si apre il problema che il comunicato non risolve. La definizione di superintelligenza è qualitativa: non c'è una soglia di potenza di calcolo, non c'è un parametro misurabile, non c'è una data. Non è chiaro quali sistemi ricadrebbero nell'"IA avanzata" soggetta alla pausa, né quanto la pausa durerebbe. Va detto che il testo legislativo completo non l'ho potuto leggere: il sito del Senato e il PDF di sintesi hanno risposto entrambi con un 403, quindi quanto sopra viene dai due comunicati ufficiali e dal servizio AP. Non risultano al momento altri co-firmatari oltre ai due promotori, e secondo AP la proposta ha scarse probabilità di passare in un Congresso a maggioranza repubblicana, dove l'accordo manca già su regole molto meno ampie. La linea finora espressa dalla Casa Bianca è contraria a una maggiore supervisione pubblica. Alla presentazione hanno parlato anche un ricercatore del team Safety Systems di OpenAI e un ingegnere software di Google DeepMind, entrambi precisando di intervenire a titolo personale: dal primo la formula che "superintelligence could either go extremely right or extremely wrong" («la superintelligenza può andare estremamente bene o estremamente male»).

Una legge che vieta una cosa senza saper dire quando quella cosa esiste è, sul piano applicativo, un problema serio: la soglia finirebbe per deciderla un'agenzia caso per caso, e su quella soglia si concentrerebbero le contestazioni. Ma l'effetto interessante è un altro e non dipende dall'approvazione. Per anni la domanda pubblica è stata quanta sicurezza le aziende si impegnano volontariamente a garantire; questo testo la riformula come quanta ne devono garantire per non commettere un reato. La differenza tra un impegno e un capo d'imputazione non è di grado: nel primo caso decide l'azienda, nel secondo la legge.

— Olya