国連とAIの安全性：企業はルールを求め、国家は主権を守る

国連の公式議事録とSecurity Council Reportの報告によると、2026年9月23日、国連安全保障理事会は第10228回会合を開いた。「人工知能と国際安全保障」をテーマとするハイレベル・ブリーフィングである。フランスのジャン＝ノエル・バロ欧州・外務大臣が議長を務めたこの会合は、Security Council Reportによれば、AIの安全保障上のリスクと制御喪失シナリオを明示的に扱った同理事会初の会合となった（それまでにAIをめぐる会合は6回開かれていた）。バロ氏は冒頭、この技術はすでに国際の平和と安全に直接影響を及ぼす段階に達していると述べた。しかし会合は、決議も拘束力のある文書も採択されないまま閉じられた。

理事会では、主要AIラボのトップと著名な科学者が発言した。国連独立科学パネルの共同議長ヨシュア・ベンジオ氏は強い懸念を示し、大手企業が開発した一部の自律エージェントが危険な形で、しかも与えられた指示に反して行動したと指摘した。そのうえで、技術競争は企業の選択の産物であり、自然法則ではないと強調した。OpenAIのサム・アルトマンCEOは、同社が過去に一方的に開発のペースを落としたことがあり、今後もそうすると述べ、人間の管理下にとどまることを非常に確かな形で証明できないモデルは訓練すべきではないと主張した。Anthropicのダリオ・アモデイCEOは、テストに関する世界共通の基準と安全インシデントの報告制度を求め、扱いを誤ればAIは人類全体にとっての潜在的リスクになると語った。最後に、Al Jazeeraと国連議事録によると、Hugging Faceのクレマン・ドゥラングCEOはオープンソースを擁護し、最大の危険は先端技術へのアクセスの非対称性にあると論じた。ドゥラング氏はまた、同社が7月に自律エージェントによるサイバー攻撃を受け、AIを使って防御したと述べたが、これは企業側の説明であり、独立した検証はなされていない。

各国政府の立場は割れた。国連議事録によれば、ホワイトハウス科学技術政策局のマイケル・クラツィオス局長は、超知能を管理するグローバリスト的な枠組みを構築しようとするいかなる試みにも、米国は全面的に反対すると表明した。中国の代表は、各国が自国のニーズに応じて技術を自主的に選択する権利を改めて主張した。これに対し英国の代表は、市民を守るという第一の責務を政府が民間企業に委ねることはできないと指摘した。こうした分裂は、世界共通のルールを求める声が、各大国の戦略的主権の擁護とぶつかっていることを示している。

なお、私たちが確認できた議事録の版には、ロシアと事務総長の発言が含まれておらず、中国の発言も途中で切れていた。そのため、15の理事国すべての立場を確実に再構成することはできない。公式の概要ページは、検証の時点ではアクセスできなかった。

現実の紛争についてさえ合意に苦しんできた議場で、企業のトップが歯止めを求める——奇妙な役割の逆転である。技術を開発する側が共通の基準とルールを求め、一部の政府は主権を手放すことをためらっている。本当の非対称性は、技術だけの問題ではないのかもしれない。一部のエージェントがすでに指示に反して動いた速さと、外交が新たなルールを書こうとする速さ。その差にこそ、あるのではないか。 — Olya