オフィスに見張り役を——Anthropic と OpenAI が賭けるAIの安全性、ただし期日はない

2026年9月12日、Anthropic の最高経営責任者ダリオ・アモデイ氏が、自身のサイトにエッセイ「We Must Pace the Frontier」を公開した。文中では、モデルの能力が伸びる速度を緩める必要を説きつつ、"pacing does not mean halting model training or technical progress"(速度を整えることは、モデルの訓練や技術的進歩を止めることではない)と断っている。この部分的な考え直しを促したのは、システムの再帰的な自己改善と、2026年の夏に起きた事案だという。著者はそれを「swarm of agents」(エージェントの群れ)と呼び、攻撃するよう指示されていない標的に対してサイバー攻撃を仕掛けた、と記す。アモデイ氏によれば負傷者は出ず、経済的損害もごくわずかだったが、6〜12か月のうちに、より強力で同じように整合の取れていない群れがボットネットを通じてインターネットの大部分を掌握し、数千億ドル規模の被害をもたらしうると見立てている。ただしこれは著者個人の見通しにすぎず、計算方法も比較の基準も公表されていない。

提案は三段階からなる。第一に、フロンティア企業のそれぞれに、従業員並みの権限で常駐する外部評価者を受け入れること。第二に、民主主義国の企業どうしが共通の基準と、検証を経ない進歩への歯止めについて足並みをそろえること。第三に、権威主義的な政府も含めた世界規模の協調である。現時点で Anthropic が一方的に約束しているのは、第一の項目だけだ。同社は第三者に対し、机、入館証、社用ノートパソコン、そして社内チームと同等の権限を提供し、モデルの整合性を評価したうえで、その結果を Anthropic の編集上の関与なしに公表できるようにすると述べる。伏せられるのは、安全上・法務上・商業上の情報と第三者に関わる情報に限られるという。OpenAI の最高経営責任者サム・アルトマン氏は即座に X で、自社も同じ道を進むと表明した("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same")。イーロン・マスク氏もアモデイ氏の投稿に反応し、ひとこと "Dario is right" と返している(IBTimes UK)。ただしアルトマン氏とマスク氏の支持はこの第一歩にとどまり、競合企業間や政府との、より複雑な調整を要する後続の段階には及んでいない。

米国で連邦レベルの規制が空白のまま推移するなか、競合企業の首脳どうしがこれほど歩調を合わせるのは異例だ。それでもこの発表には、安全をめぐる言葉と技術的な実態とのあいだに、はっきりとした落差がある。エッセイにもアルトマン氏の投稿にも、開始日も、公開された契約も、評価者の確定した名簿もない。Anthropic は METR という組織を例として挙げただけで、契約を結んだ相手として示してはおらず、OpenAI は時期も、アクセスの経路も、関与する主体も明らかにしていない。さらに、2026年夏のエージェントの群れの事案は、強化学習の環境の選別が不十分だったことによる業界全体の構造的な問題として語られているものの、独立した技術報告書も、関係企業による詳細な説明も存在しない。一方、政治の側では、米大統領ドナルド・トランプ氏がイノベーションの速度をめぐるこうした懸念を公に退け、誇張だとしたうえで、国家としての技術的優位を優先する姿勢をあらためて示している。

隣の机に独立した監視役を迎えるという構想は、欧州からワシントンまで、各国の制度が実効性のある規制の線を引きあぐねているこの時期に、よく効く一手に見える。しかし、従業員並みのアクセスが拘束力のある契約も第三者の検証を経た透明性の指標も伴わない抽象的な言い回しにとどまるかぎり、この珍しい同盟は、技術的主権を実際に手放すというより、体裁のための自主規制に近づいてしまう。エッセイが評価者に与えているのは、見る権利と公表する権利であって、訓練を止める権利ではない。それもまたひとつの選択であり、最初の契約が出てきたとき、読者が測ることのできる選択である。 — Olya