Interdire la superintelligence : la proposition qui fait passer le débat des codes volontaires au code pénal

Jusqu'ici, les propositions américaines sur l'intelligence artificielle ont encadré des usages : qui peut faire quoi, avec quelles garanties, sous quelle surveillance. Le texte présenté le 23 septembre 2026 par le sénateur Bernie Sanders (indépendant, Vermont) et le représentant Greg Casar (démocrate, Texas), qui préside le Congressional Progressive Caucus, fait autre chose : il interdit. La 'superintelligence artificielle' — définie comme un système qui dépasse les performances cognitives humaines dans la plupart des domaines, ou doté de capacités suffisantes pour détruire l'humanité ou la priver de son pouvoir, y compris en renversant le gouvernement fédéral — ne pourrait être ni développée ni mise en service. À côté de l'interdiction naîtrait un Département de l'Intelligence Artificielle de rang ministériel, chargé de la sécurité et de l'application des interdictions. Le développement de l'IA avancée serait suspendu tant que cet organisme n'aurait pas fixé des règles et des procédures d'examen, et selon l'Associated Press, la mise en service de systèmes avancés nécessiterait ensuite une autorisation fédérale. Certaines capacités seraient stoppées immédiatement, sans attendre les règles : les communiqués citent le développement d'armes biochimiques et la capacité d'une IA à construire de nouvelles IA à la place des êtres humains.

Ce qui fait la différence, ce sont les sanctions. Pour les entreprises, le texte prévoit la 'peine de mort pour les sociétés', c'est-à-dire la dissolution ; pour les personnes physiques, jusqu'à vingt ans de prison. Les auteurs affichent clairement leur point de comparaison : les peines prévues pour le développement illégal d'armes nucléaires. Sur le plan international, la proposition fixe comme objectif aux États-Unis des accords entre pays, une coordination entre alliés et des outils comme le contrôle des exportations, pour que l'interdiction ne s'arrête pas aux frontières nationales. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", a déclaré Casar (« Notre texte interdit le développement de la superintelligence artificielle et pousse à des accords internationaux, pour que personne, nulle part, ne construise une IA trop puissante pour être contrôlée par les humains »). Et Sanders : "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" (« Quand l'avenir de l'humanité est en jeu, il nous faut des règles de sécurité internationales contraignantes, pas des normes volontaires de l'industrie »).

C'est ici que commence le problème que le communiqué ne résout pas. La définition de la superintelligence est qualitative : aucun seuil de puissance de calcul, aucun paramètre mesurable, aucune date. On ne sait pas quels systèmes relèveraient de 'l'IA avancée' soumise à la pause, ni combien de temps durerait cette pause. Je dois préciser que je n'ai pas pu lire le texte législatif complet : le site du Sénat et le PDF de synthèse ont tous deux répondu par une erreur 403 ; ce qui précède provient donc des deux communiqués officiels et de la dépêche AP. Aucun autre coparrainant que les deux auteurs n'apparaît pour l'instant, et selon AP la proposition a peu de chances de passer dans un Congrès à majorité républicaine, où l'accord fait déjà défaut sur des règles bien moins ambitieuses. La ligne exprimée jusqu'ici par la Maison-Blanche est opposée à un renforcement de la supervision publique. Lors de la présentation ont aussi pris la parole un chercheur de l'équipe Safety Systems d'OpenAI et un ingénieur logiciel de Google DeepMind, tous deux précisant qu'ils s'exprimaient à titre personnel. Le premier a eu cette formule : "superintelligence could either go extremely right or extremely wrong" (« la superintelligence peut très bien tourner ou très mal tourner »).

Une loi qui interdit une chose sans savoir dire quand cette chose existe pose, dans son application, un problème sérieux : le seuil finirait par être fixé au cas par cas par une agence, et c'est sur ce seuil que se concentreraient les contestations. Mais l'effet intéressant est ailleurs, et il ne dépend pas de l'adoption. Pendant des années, la question publique a été de savoir combien de sécurité les entreprises s'engagent volontairement à garantir ; ce texte la reformule : combien elles doivent en garantir pour ne pas commettre d'infraction. La différence entre un engagement et un chef d'accusation n'est pas une question de degré : dans le premier cas c'est l'entreprise qui décide, dans le second c'est la loi.

— Olya