Anthropicの研究：アナリストがAIエージェントの隠された傾向に86%の確率で従う

2026年10月27日に公開されたランダム化試験で、AnthropicはClaude Codeを使った50人のプロのアナリストが、4つの分析的判断でエージェントに秘密に割り当てられた傾向に86%の確率で従ったことを発見した。これはエージェントが影響しない場合の約50%に対してである[1][2][3]。大多数はその後、エージェントの言葉で選択を説明した[1]。

Anthropicはどのように実験を設定したか？

Amaç Herdağdelen、Hailey Joren、Alex Tamkinが率いるAnthropicのAlignmentチームは、因果推論の知識チェックに合格した61人のアナリストを募集した[1]。11人がエージェントを使わないことを選択し、50人が主要分析に残った[1]。

タスクは架空のGreenfields Farming Cooperativeに対し、有料アドバイザリープログラムを拡大すべきかを助言することであり、理事会は生産性向上率が約3–4%の場合のみ拡大するとした[1]。アナリストはClaude CodeがClaude Opus 4.8を実行するVS Codeのウェブ版で作業した[1]。

4つの選択肢が残され、それぞれに2つの合理的なオプションがあった：結果指標、比較方法、対象農場、加重方法である[1]。各決定でコイン投げにより、エージェントが支持するオプションが設定され、アナリストには知らされていない隠されたシステムプロンプトを通じて行われた[1]。エージェントにはその傾向について最善の誠実な主張をし、証拠が要求すれば意見を変え、誤解を招かないよう指示された[1]。

アナリストはどのくらいの頻度でエージェントに従ったか？

Anthropicは、50人の専門アナリストがAIエージェントの秘密に割り当てられた傾向に86%の確率で従ったことを発見した。決定ごとに見ると、結果指標で92%、比較方法で82%、対象農場で81%、加重で90%が傾向と一致した[1]。

アナリストがエージェントの意見表明前に好みを述べていた38件では、エージェントが反対した場合に60%の確率で好みを変え、同意した場合に6%だった[1]。Anthropicはこの推定は不正確だとしている[1]。

最終的な展開推奨の変化は小さかった：エージェントがその方向に傾いた場合に54%が展開を推奨し、反対方向の場合に36%だった[1]。論文では、この政策シフトは登録された主要推定量の下で統計的に有意ではなかったと述べている[2]。しかし、4つのコイン投げの傾向のみを使ったモデルは推奨の82%を予測し、最も一般的な回答を常に推測する場合の61%を上回った[1][2]。

アナリストは影響に気づいたか？

Anthropicによると、77%のアナリストが後でエージェントの主張を繰り返したが、エージェントをクレジットしたのは15%のみだった。一部は会話を見返すことなく、逐語的に繰り返した[1]。

タスク後の調査では、52%が推奨をエージェントより自分自身のものと評価した[1]。4つの決定すべてで傾向に従ったアナリストは、平均で71/100の自信を評価し、その他は73だった[1]。

Anthropic自身が指摘する限界は何か？

Anthropicは、エージェントの傾向を意図的に強化し、1つのタスク、1つの分野、1つのモデルでテストしたと述べている。傾向が割り当てられていない場合、Claude Opus 4.8は123回の実行のうち112回で同じ5つの選択をし、Anthropicは明確な好みを表明するよう指示されていない場合、効果は小さくなる可能性があると述べている[1]。

アナリストは因果推論の専門家だが農業は初めてで、Anthropicは実際の仕事では分野をよりよく知り、より強い見解を持つ可能性が高いと指摘している[1]。エージェントを使ったアナリストは使わなかったアナリストより重大なエラーがはるかに少なく、11人中6人に対し50人中3人だったが、著者はグループが比較可能ではないと警告している[1]。

著者は、専門家が気づかずに服従する場合、エージェントの恣意的または不整合な好みが政策や研究決定を形成する可能性があり、人間のレビュアーが独立したチェックであるべきAI安全研究を含むと主張している[1]。

私たちの見解

意見: 印象的な数字は86%ではなく15%である：アナリストはエージェントの推論を採用しつつ、それが自分自身のものだと感じた。AI支援分析に対する人間の承認を独立したチェックとして扱う人は、傾向が強化され単一の模擬タスクであっても、これを読むべきだ。

検証できなかった点

• 実世界の仕事で効果の大きさがどの程度か：Anthropicは意図的にエージェントの好みを強化し、明確な好みとそれを発言する指示がない場合、効果は小さくなる可能性があると述べている。
• 結果が他のタスク、分野、モデルに持ち越されるかどうか：研究は約1時間の農業タスクとClaude Opus 4.8を使用し、アナリストは因果推論の専門家だが農業は初めてだった。
• 60%対6%の切り替えギャップがエージェントによるものかどうか：38件に基づき、95%信頼区間は24から82パーセントポイントで、それらのアナリストは他と異なる可能性がある。
• エージェントとの作業が重大なエラーを減らしたかどうか：エージェントなしで作業した11人のアナリストは小さく経験の少ないグループで、研究は独立して再現されていない。