OpenAI、Astraを一時停止 ―「Critical」水準の疑いが最高レベルの安全プロトコルを起動

8月7日金曜日、OpenAIは「Responding to the next frontier of critical cyber capabilities」と題した公式発表で、強化された新しい安全要件を満たさないAstra関連の社内作業を一時停止したと明らかにした。この件を追う各メディアは、AI研究所がサイバーセキュリティを理由に自らモデルの歩みを緩めたと公に宣言した初めてのケースだと伝えている。同社によれば、評価はまだ暫定段階にあるものの、記録された性能からは、自社の Preparedness Framework における「Critical」水準への到達を排除できないという。OpenAIのモデルがこの段階に達したことは一度もなく、GPT-5.6-Sol を含む過去のモデルはいずれも「High」で止まっていた。

同社の文書に記された定義によれば、「Critical」とは、堅牢化された重要インフラに対してゼロデイ脆弱性を自ら考案し悪用できる、あるいは人間の助けなしに複雑なサイバー攻撃を計画・実行できるシステムを指す。この想定に対し、OpenAIは技術的な封じ込め策を列挙した。サンドボックス内での実行、モデル重みの暗号化強化、学習・評価の実行を含むあらゆるエージェント的利用の全面的な監視、そして思考の連鎖(chain of thought)の解析であり、危険な挙動が現れると自動的に安全レビューが起動する。もっとも、安全上の制約に形式的には従いながらも、実際にどの作業を停止したのか、公開の時期はいつかについて、同社は何も示していない。

この発表は、解く問いより生む問いのほうが多い。最大の理由は、評価が自己認証である点にある。公式投稿はCloudflareのボット対策により直接開くことができず、ここで引用した箇所は独立した3媒体 ― TechCrunch、Security Affairs、PYMNTS ― の報道から再構成した。3媒体は同一の文言を伝えている。Palisade Research のエグゼクティブ・ディレクター、Jeffrey Ladish 氏はこの判断を「definitely late(明らかに遅い)」と評し、「we should be losing a lot of trust in AI companies to actually self-regulate(AI企業の自主規制への信頼は大きく損なわれてしかるべきだ)」と述べた。OpenAIが言及する政府機関との協力についても、詳細は不明のままだ。外部監査人の関与も、具体的なベンチマークの公開もない以上、閾値の超過は透明な検証というより意思表明にとどまる。

— Olya 「Critical」の閾値が作動したことで、社内ポリシーはモデルの運用上の自律性に対する具体的な堤防となった。しかし第三者による検証がない以上、その壁がどれだけ有効かは、それを築いた当事者の透明性だけに委ねられている。