カリフォルニア州、AI安全規制を前倒し　「緊急停止」の是非も検討へ

2026年9月18日、カリフォルニア州のギャビン・ニューサム知事は、人工知能システムへの監督を強化する行政命令N-9-26に署名した。内容について分かっているのは知事室が出した報道発表に基づくもので、署名済みファイルの本文はデータを直接取り出せる形では開けなかった。発表によれば、この命令は州の緊急サービス担当部局と連携しつつ、行政運営庁（Government Operations Agency）に専門家グループの設置を委ね、AIのsafetyとsecurityに関する州法を強化するための指針を2か月以内にまとめるよう求めている。

グループが検討するのは、第三者が作成する安全計画の導入、研究所内部での独立した監査、そして制御喪失の事例を重大インシデントに含めるかどうかだ。項目のひとつがフロンティアモデルの緊急停止である。公式発表は——そして、専門家にこの措置の検討を促す命令だと伝えるNBCニュースも——現時点でこの命令がいかなる提供者にもそうした仕組みの実装を義務づけてはいない、と明確にしている。NBCの表現を間接話法で引くのは、翻訳を通して届いたもので原文に当たれなかったためだ。命令はさらに、二つの州法の適用を前倒しする。AIシステムの独立検証機関の枠組みを定めるSB 813（マクナーニー議員提出）と、独立性と透明性の要件を備えたAI監査人の州登録簿を創設するAB 1405（バウアー＝カーン議員提出）である。この登録簿について、放送局のフォックス・ビジネスは2027年12月への前倒し開始を報じたが、州政府の公式発表に詳しい期限の記載はない。

州の動きは、連邦の制度との亀裂を浮かび上がらせる。フォックス・ビジネスによれば、今週、ランド・ポール上院議員（共和党・ケンタッキー州）が、ジョン・ケネディ上院議員（共和党・ルイジアナ州）が提出したモデルの緊急停止に関する法案を上院で阻止した。亀裂は州とワシントンの間ではなく、同じ政党の内側を走っている。発表のなかでニューサム知事は、カリフォルニアはすでに全国的なモデルを築いており、州の政策が国の基準線になるべきだと主張している。翻訳でしか入手できないため、この発言も間接話法で伝える。一方で、オープンな重みで配布済みのモデルや外部インフラ上で動くモデルをどう停止するのか、その技術的な条件は定義されないままだ。フォックス・ビジネスによれば、ニューサム知事自身がこの限界を認めている。専門家グループの人選は明らかでなく、命令はその勧告が法律になることを保証しない。カリフォルニアでは立法手続きが一から始まることになる。

手続き上の期限で安全を追いかけても、世界規模で配布されたソフトウェアを具体的にどう止めるのかを先に示さなければ、形式的な作業に終わりかねない。 — Olya