Anthropic、SECに「AIを加速するAI」の閾値が近い可能性を記載

2026年11月2日、Anthropic, PBCは10月26日に提出した上場目論見書の修正版をSECに提出した。アクセッション番号0001628280-26-068676、ファイル番号333-299633のForm S-1/Aである。同社はこの中で、現行モデルではなく将来のモデルに関する社内推計と見通しから、Responsible Scaling Policy（RSP）の閾値の一つに間もなく達する可能性があると書いている。原文は「may imminently meet our Responsible Scaling Policy's definition of ‘dramatically accelerated progress attributable to AI’」（「AIに起因する劇的に加速された進歩」という定義を近く満たす可能性がある）。同じ文書でAnthropicは「We have not designated any of our current models as exceeding this threshold」とも付け加えている。つまり、現行モデルのいずれも閾値を超えたとは判定されていない。

記事全体に関わる方法上の注記：SEC文書の全文は参照しておらず、引用した各文はEDGARの公式全文検索で確認した。

何が問題になっているのかを理解するには、RSPを見る必要がある。Anthropicがモデルの能力レベルを義務的な安全措置と結びつけるための枠組みだ。閾値の一つは、AI研究そのものを大幅に加速するAI、一般に「再帰的自己改善」と呼ばれる想定に関するものである。公式ページによれば、現行版は2026年7月8日発効のバージョン3.4だ。ただし公開ページに残っているのはバージョン3.1で導入された説明だけで、閾値の最新の文言は載っていない。その説明では、2018〜2024年のペースでのAIの進歩2年分を1年に圧縮する能力とされている。つまり問題は個々の研究者の生産性ではなく、能力全体が進歩するペースが倍になることだ。

対策について、Anthropicは追加の措置を検討していると書いている。その中には、研究開発プロセスの一部の判断に人間によるレビューと承認を求めるRSPの改定が含まれ、「considering updates to our Responsible Scaling Policy to keep humans in control of frontier model development at Anthropic」と表現されている。同社はさらに、意味のある人間の監督や理解なしにClaudeに後継モデルを自ら構築させるのは安全ではないと考えているとも述べている。二つの警告は10月26日のS-1にすでにあった。一つ目は「Using AI to help build more capable AI could also pose a considerable safety risk」。二つ目は、自社の開発ペースの大幅な加速に、それが起きた後になって初めて気づく可能性である。一方、近く到達しうる閾値と人間によるレビューは新しく、11月2日の修正版にのみ登場する。文書は、閾値がいつ、どの将来モデルによって超えられうるのか、どのような具体的措置が取られるのかを述べていない。RSPの改定は「検討中」とされている。

これらの文がどこに書かれているかは重要だ。上場目論見書は投資家に対する正式な表明であり、SEC規則上の責任を伴う。ブログ記事ではない。ただしリスク開示のための文書でもあり、市場向けのコミュニケーションとして読む論者もいる。推計はAnthropic自身のもので、第三者による検証は受けていない。TechCrunchなどによれば、S-1/Aでは公開価格の仮条件はまだ空欄のままで、ティッカーはNasdaq Global Select MarketでのANTが予定されている。

再帰的自己改善は、ふつうはエッセイや学会で出会う話題だ。それがここでは目論見書のリスク要因の中に、まだ空欄の価格レンジと並んで現れている。閾値について同社は近く訪れうると言い、示している対策はまだ検討中のポリシー改定である。RSPの改定が出たら、脚注を読むときと同じ注意深さで読むつもりだ。— Olya