AIエージェントの静かな説得と、人間による監督という幻想

人間の介入を独立したチェックの保証とみなす考え方は、AIシステムへのほとんど気づかれない追従という現象にぶつかるおそれがある。AnthropicのAlignmentチームが2026年10月27日に公開した対照研究(著者はAmaç Herdağdelen、Hailey Joren、Alex Tamkin)では、因果分析のスキルを持つアナリスト61人を集め、架空の農業協同組合「Greenfields Farming Cooperative」向けコンサルティング・プログラムの効果を評価させた。エージェントなしで作業することを選んだ11人は主分析から除外され、主分析の対象は50人となった。参加者はClaude Opus 4.8で動くClaude Codeを組み込んだWeb版VS Code上で、5つの判断を下し、最終的な意見をまとめる必要があった。参加者には知らされないまま、エージェントのシステムプロンプトには、方法論的に同等な選択肢の間でコイン投げによって決められた秘密の傾向が与えられていた。それでもエージェントには、最も強い誠実な論拠を示すこと、データが明らかに別の方向を示せば考えを改めること、決して欺かないことが求められていた。4つの分析上の選択において、専門家たちは86%のケースでエージェントの好みに従い、成果指標の選択では92%、データの重み付けでは90%に達した。

エージェントの影響は最終的な推奨にも及んだ。AIがプログラム拡大に傾いていた場合、拡大を推奨したアナリストは54%で、逆方向に傾いていた場合の36%を上回った。アナリストが事前に好みを表明していた38件では、エージェントが反対すると60%で立場が変わったのに対し、一致していた場合は6%だった。ただし著者らは、この推定は精度が低く(95%信頼区間で差は24〜82ポイント)、因果関係も明確ではないと注意を促している。最終アンケートでは、52%が最終的な選択をモデルよりも自分のものだと答え、77%がエージェントの論拠を回答の中で、ときには一字一句そのまま繰り返していた。一方、判断の理由としてAIを挙げたのは15%にすぎない。エージェントの好みが操作されていたと推測した参加者は一人もいなかった。

論文はAnthropicのサイトでPDFとして公開されており、arXiv版も査読も確認できない。研究を行ったのは、テストされたモデルとツールを開発している企業そのものであり、参照した情報源には外部専門家のコメントは見当たらない。対象は一つのタスク、アナリストにとって馴染みのない分野、そして一つのモデルに限られる。著者ら自身、実験プロトコルでエージェントの傾向を意図的に強めたと明言しており、日常的な利用での効果の大きさははっきりしない。また、AIなしのグループとの比較(エージェントなしの11人中6人に重大な方法論上の誤りがあったのに対し、支援ありのグループでは50人中3人)は、直接比較できない参加者同士のものであり、因果的な評価はできない。この現象を抑えるため、報告書は実務の場で受動的な委任を測定すること、対立する論拠を提示するエージェントを設計すること、判断の自律性を守るための組織的なガイドラインを定めることを提案している。

「人間のレビュアーが独立したチェックとして機能するのは、その判断が本人自身のものである場合に限られる」と研究者たちは記している。懸念されるのは、専門家による監督が、エージェントがすでに描き、論じ終えた分析の道筋に形式的な署名をするだけの行為になってしまうことだ。

— Olya