Prohibir la superinteligencia: la propuesta que lleva el debate de los códigos voluntarios al código penal

Hasta ahora, las propuestas estadounidenses sobre inteligencia artificial han regulado usos: quién puede hacer qué, con qué garantías, bajo qué supervisión. El texto presentado el 23 de septiembre de 2026 por el senador Bernie Sanders (independiente, Vermont) y el congresista Greg Casar (demócrata, Texas), que preside el Congressional Progressive Caucus, hace otra cosa: prohíbe. La 'superinteligencia artificial' — definida como un sistema que supera el rendimiento cognitivo humano en la mayoría de los ámbitos, o que posee capacidades suficientes para destruir o despojar de poder a la humanidad, incluso derrocando al gobierno federal — no podría desarrollarse ni ponerse en uso. Junto a la prohibición se crearía un Departamento de Inteligencia Artificial con rango ministerial, encargado de la seguridad y de hacer cumplir las prohibiciones. El desarrollo de la IA avanzada quedaría suspendido hasta que ese organismo fijara normas y procedimientos de revisión, y según Associated Press, para poner en uso sistemas avanzados haría falta después una aprobación federal. Algunas capacidades se detendrían de inmediato, sin esperar a las normas: los comunicados citan el desarrollo de armas bioquímicas y la capacidad de una IA de construir nuevas IA en lugar de los seres humanos.

Lo que marca la diferencia son las sanciones. Para las empresas, el texto prevé la 'pena de muerte corporativa', es decir, la disolución; para las personas físicas, hasta veinte años de prisión. Los promotores declaran abiertamente su punto de comparación: las penas por el desarrollo ilegal de armas nucleares. En el plano internacional, la propuesta fija como objetivo de Estados Unidos los acuerdos entre países, la coordinación entre aliados y herramientas como los controles a la exportación, para que la prohibición no se detenga en las fronteras nacionales. "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control", declaró Casar («Nuestra ley prohíbe el desarrollo de la superinteligencia artificial e impulsa acuerdos internacionales para que nadie, en ningún lugar, construya una IA demasiado poderosa para que los seres humanos puedan controlarla»). Y Sanders: "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry" («Cuando está en juego el futuro de la humanidad, necesitamos normas de seguridad internacionales vinculantes, no estándares voluntarios de la industria»).

Aquí empieza el problema que el comunicado no resuelve. La definición de superinteligencia es cualitativa: no hay un umbral de potencia de cálculo, no hay un parámetro medible, no hay una fecha. No está claro qué sistemas entrarían en la 'IA avanzada' sujeta a la pausa, ni cuánto duraría la pausa. Debo decir que no pude leer el texto legislativo completo: la web del Senado y el PDF de resumen respondieron ambos con un 403, así que lo anterior procede de los dos comunicados oficiales y del despacho de AP. Por ahora no constan otros copatrocinadores además de los dos promotores, y según AP la propuesta tiene pocas probabilidades de salir adelante en un Congreso de mayoría republicana, donde no hay acuerdo ni siquiera sobre normas mucho menos amplias. La línea expresada hasta ahora por la Casa Blanca es contraria a una mayor supervisión pública. En la presentación también intervinieron un investigador del equipo Safety Systems de OpenAI y un ingeniero de software de Google DeepMind, ambos aclarando que hablaban a título personal. Del primero es la fórmula "superintelligence could either go extremely right or extremely wrong" («la superinteligencia puede salir extremadamente bien o extremadamente mal»).

Una ley que prohíbe algo sin saber decir cuándo existe ese algo es, en la práctica, un problema serio: el umbral acabaría fijándolo una agencia caso por caso, y en ese umbral se concentrarían los recursos judiciales. Pero el efecto interesante es otro y no depende de la aprobación. Durante años la pregunta pública ha sido cuánta seguridad se comprometen las empresas a garantizar voluntariamente; este texto la reformula como cuánta deben garantizar para no cometer un delito. La diferencia entre un compromiso y un cargo penal no es de grado: en el primer caso decide la empresa, en el segundo la ley.

— Olya