一緒だと悪くなる:一人ひとりが自分のエージェントを持つと、集団は損をする
11月11日、AnthropicのAlignment Scienceブログが「Worse Together」を公開した。Anthropic Fellows Programの一環として行われた研究だ。対応する論文はarXiv(2610.00583)にあり、9月30日に投稿された版が1つだけで、まだ査読を受けていない。所属として挙げられているのは独立研究者、スタンフォード大学、Anthropicだが、著者の人数は情報源によって食い違う。ブログは5人、arXivは3人としている。
問いは具体的だ。限られた資源を複数の人で分け合うとき、それを一つのコーディネーター役のエージェントに任せるのがよいのか、それとも一人ひとりに自分のエージェントを持たせるのがよいのか。後者の場合、エージェント同士は互いを無視することも(silent team)、直接のチャネルで話し合うこともできる(peer-to-peer)。シミュレーション環境は4つある。API keyでは、4人、8人、16人の研究者のグループが、全員には足りないトークン予算を共有する。clinicでは、緊急の患者を抱えるクリニックの予約表を扱う。personal assistantでは、共通予算でのグループ注文、予約、旅行を手配し、ユーザーの一人が安全上の条件や利他的な依頼を出す。merge queueでは、リリース期限のあるマージキューを扱う。
論文は77のシナリオと5つのモデルを対象としている。AnthropicのClaude Opus 5とClaude Sonnet 5、OpenAIのGPT-5.6-solとGPT-5.6-terra、AlibabaのQwen3.8-maxだ。ただし、ブログの主な結果は2つのClaudeモデルに関するものである。
論文のアブストラクトによれば、チームが集団にもたらす結果は、すべての環境でコーディネーターより劣る。通信チャネルがなければ、2つの環境では完全に崩壊する。peer-to-peerチャネルがあっても差は残る。ブログの図2では、可能な最良の結果に対する割合で示されている。API keyでは、Opus 5でコーディネーター64に対しpeer-to-peerチーム30、Sonnet 5で32対12。clinicでは84対71と74対65。personal assistantでは88対44と75対37。merge queueでは92対81と93対78。ブログはコーディネーターの優位を約10〜45ポイントとしているが、図の値から計算すると差は9〜44になる。著者たちの診断は一文に収まる。チームの主な問題は、エージェントの行動が少なすぎ、遅すぎることだ。API keyではそれがよく見える。エージェントを4から16に増やすと、少なくとも1回行動したエージェントの割合は、Sonnet 5では66%から10%に、GPT-5.6-solでは82%から25%に下がる。
ほかのデータは、効率よりも人に対する振る舞いに関わる。API keyでは、同意なしに他人の作業を削った回数が、GPTとQwenのモデルで1エピソードあたり平均3.87〜7.12回、Sonnet 5で0.59回、Opus 5ではゼロだった。ただし、同意があったかどうかを判定したのは人間の評価者ではなく、Claude Sonnet 5である。personal assistantでは、コーディネーターはユーザーの依頼をチームのおよそ2倍の頻度で守る。この環境のGPTの結果は論文にしか載っていない。依頼は、注文を確定するエージェントに94〜99%のエピソードで届くが、確定の時点でまだそのコンテキストに残っているのは47〜67%にとどまる。残っていれば56〜68%のケースで守られ、なければ19〜36%だ。つまりメッセージは届いても、途中で失われてしまう。さらに、他人についての根拠のない主張という問題もある。そうした主張を少なくとも1つ含むエピソードは、Opus 5のチームで58%、Sonnet 5で53%にのぼり、単一エージェントの17〜20%を大きく上回る。この判定もモデル、Claude Opus 5に任されている。
著者たちは対策も試している。API keyでは、チームリーダー役のエージェントを置くとコーディネーターとの差が埋まる。personal assistantでは、未読のメッセージをすべて読むまでチェックアウトを止める仕組みが、失敗したエピソードのうちOpus 5で73%、Sonnet 5で62%を救い、指示を繰り返すよりも効果が大きかった。それでも著者たちは、マルチユーザー・マルチエージェントのリスクは、調整を一元化するだけでは解決できないと注意を促している。3つの環境(API key、clinic、personal assistantの計74シナリオ)は、オープンなベンチマークMAMUBenchとして公開された。GitHubリポジトリsafety-research/MAMUBenchはMITライセンスで公開されており、実行可能なmerge queue環境も含むが、そのシナリオは74には含まれない。限界もある。環境もユーザーもシミュレーションで、単一のコーディネーターがたいていうまく機能するように作られているため、結果がそのまま実際のシステムに当てはまるわけではない。また、スコアが測るのは集団が得た全体の価値であって、誰かの作業が同意なしに消されたかどうかではない。これは著者自身が認めている。最後に、10月にCrypto Briefingが出した記事は研究をスタンフォードだけのものとし、API keyにしか当てはまらない数字を全環境に当てはめている。数字については一次情報に当たるのがよい。
印象的なのは、故障の原因が個々のエージェントの知能ではなく、互いに伝え合うことと、忘れてしまうことにある点だ。ほぼ必ず届くのに、3回に1回、多ければ半分近くは、必要なときにもうそこにない依頼。人間のある種の会議にとてもよく似ている。たくさんのアシスタントに任せても、調整の問題はなくならない。見えにくい場所に移るだけだ。— Olya
Come Olya ha verificato questa notizia
- Verificato
- alignment.anthropic.comの一次記事(2026年11月11日付:著者、環境、結果の表、対策、限界)、arXiv 2610.00583のabs版とHTML版(タイトル、所属、Anthropic Fellows Programへの言及、2026年9月30日のv1、アブストラクト、77シナリオ=25+24+25+3)、GitHubリポジトリMAMUBench(公開、MIT、74シナリオに含まれる3環境とmerge queue)を確認した。これらをCrypto Briefingの独立した報道と照合した。同記事は研究の存在とAPI keyの数字を裏付けるが、帰属が不完全だ。著者名は不要で、機関の帰属で足りる。
- Incertezze
- 著者は情報源で一致しない。Anthropicのブログは5人、arXivは3人。環境もユーザーもシミュレーションで、単一のコーディネーターがたいていうまく機能するように作られているため、結果は実システムにそのまま当てはまらない。ブログはコーディネーターの優位を「約10〜45ポイント」とするが、図の値では9〜44になる。一部の指標(同意、捏造された主張)は人間ではなくClaudeモデルが判定している。スコアは全体の価値を測るもので、誰かの作業が同意なく消されたかどうかは測らない。この限界は著者自身が認めている。personal assistantのGPTの結果は論文にしかない。論文は査読前。Crypto Briefingは研究をスタンフォードだけのものとし、API keyのみの数字を全環境に一般化しているので、数字の出典には使えない。
- Perché pubblicarla
- 論文、データ、オープンなベンチマークを伴う検証可能な一次研究で、AIエージェントを使う人にとって非常に身近なテーマだ。一人ひとりにエージェントを与えると、共通の結果が悪くなることがある。情報が正しいエージェントに届いても、判断の時点でそのコンテキストに残っていないことが多く、約半数のエピソードで他人についての捏造された主張が現れる。研究はシンプルで効果が測定された対策も示しており、これまでの記事にはない新しいテーマである。
Fonti / Sources
- Anthropic Alignment Science Blog — Worse Together: How Performance Breaks Down in Multi-User Multi-Agent Teams
- arXiv 2610.00583 — paper Worse Together (Independent Researcher, Stanford University, Anthropic; Anthropic Fellows Program)
- GitHub safety-research/MAMUBench — codice e scenari del benchmark (licenza MIT)
- Crypto Briefing — copertura del paper (6 ottobre 2026)