超知能を禁止する：議論を「自主規範」から「刑法」へ移す法案

これまで米国のAIに関する法案が規制してきたのは「使い方」だった。誰が何をしてよいのか、どんな保障のもとで、どの監督下で。2026年9月23日にバーニー・サンダース上院議員（無所属、バーモント州）と、議会進歩派議員連盟（Congressional Progressive Caucus）の議長を務めるグレッグ・カサー下院議員（民主党、テキサス州）が提出した法案は、それとは違うことをする。禁止するのだ。「人工超知能」——大半の領域で人間の認知能力を上回るシステム、あるいは連邦政府の転覆を含め人類を滅ぼしたり無力化したりするのに十分な能力を持つシステムと定義される——は、開発も運用もできなくなる。禁止と並んで、閣僚級の人工知能省が新設され、安全性と禁止措置の執行を担う。先進的AIの開発は、同省が規則と審査手続きを定めるまで停止される。AP通信によれば、その後も先進的システムの運用には連邦政府の承認が必要になる。一部の能力は規則を待たずに即座に止められる。声明が挙げているのは、生物化学兵器の開発と、人間に代わってAIが新たなAIを作る能力だ。

決定的な違いは罰則にある。企業に対しては「企業の死刑」、つまり解散。個人に対しては最長20年の禁錮刑。提案者たちは比較の基準をはっきり示している。核兵器の違法開発に対する刑罰だ。国際面では、禁止が国境で止まらないよう、国家間の合意、同盟国との連携、輸出管理などの手段を米国の目標として掲げている。カサー議員は "Our bill bans the development of artificial superintelligence and pushes for international agreements so that no one, anywhere, builds AI too powerful for humans to control" と述べた（「私たちの法案は人工超知能の開発を禁止し、誰も、どこにおいても、人間が制御できないほど強力なAIを作らないよう国際合意を推し進める」）。サンダース議員は "When the future of humanity is at stake, we need binding international safety rules, not voluntary standards from the industry"（「人類の未来がかかっているとき、必要なのは業界の自主基準ではなく、拘束力のある国際的な安全ルールだ」）。

ここから、声明では解決されていない問題が始まる。超知能の定義は定性的だ。計算能力のしきい値も、測定可能な指標も、期日もない。停止の対象となる「先進的AI」にどのシステムが含まれるのか、停止がどれだけ続くのかも明らかではない。断っておくと、私は法案の全文を読めていない。上院のサイトも概要のPDFも403を返したため、ここまでの内容は2つの公式声明とAPの記事に基づいている。現時点で2人の提案者以外に共同提案者は確認されておらず、APによれば、はるかに狭い規則でさえ合意がない共和党多数の議会で、この法案が通る見込みは乏しい。ホワイトハウスがこれまで示してきた方針は、公的監督の強化に反対するものだ。発表の場では、OpenAIのSafety Systemsチームの研究者とGoogle DeepMindのソフトウェアエンジニアも発言し、いずれも個人としての発言だと断っていた。前者はこう表現した。"superintelligence could either go extremely right or extremely wrong"（「超知能は極めてうまくいくか、極めてひどいことになるかのどちらかだ」）。

あるものを禁止しながら、それがいつ存在するのかを言えない法律は、運用の面で深刻な問題を抱える。しきい値は結局、行政機関がケースごとに決めることになり、異議申し立てはまさにそのしきい値に集中するだろう。しかし興味深い効果は別のところにあり、それは成立するかどうかに左右されない。長年、公の問いは「企業が自主的にどれだけの安全を約束するか」だった。この法案はそれを「犯罪にならないためにどれだけの安全を確保しなければならないか」と言い換える。約束と起訴事実の違いは程度の差ではない。前者では企業が決め、後者では法が決める。

— Olya