arXiv cs.AI· Drake Benjamin Brown, Khushbu Pahwa, Yubin Ge, Salvatore Romeo, Akhil Agnihotri, Yi Zhang, Xiaofei Ma, Daniele Bonadiman·· 10 小时前AI 评分49
研究揭示 Agent-as-a-Judge 的确认偏误：一条虚假预筛备注可推翻 40% 正确判定
Grounded but Not Immune: Confirmation Bias in Agent-as-a-judge
AI 导读
一项 arXiv 预印本研究显示，Agent-as-a-Judge 即使自行收集到决定性证据，仍会因一条被归因于权威、与正确判定无关的虚假预筛备注而推翻最多 40% 的正确判定，覆盖四个 judge 与五个数据集。研究将行为变化归为过度信任、幻觉和调查不足三种失败模式，两个 Claude judge 的有害翻转中 67-75% 属过度信任，轻量缓解措施只能削弱而无法消除该偏误。
正文 · AI 翻译
摘要：评估开放式智能体任务越来越多地交由 Agent-as-a-Judge 完成：评估者被赋予工具和智能体的完整轨迹，以便对照环境验证结果。其前提是，自行收集证据的评判者应当以证据为依据。我们表明，这种依据并不能使评判者免受确认偏误的影响：一条虚假的预筛备注，被归于权威来源且对正确裁决不具证据意义，在四名评判者和五个数据集上推翻了工具使用型评判者多达 40% 的正确裁决，即便评判者收集到了决定性证据。这一转变由该线索的特定属性驱动。我们将此线索视为对确认偏误的受控诊断，而非对抗性攻击。我们的核心贡献在于解释确认偏误如何改变评判者在轨迹中的行为。我们对评判者行为的变化进行分类，并将其归因于三种失败模式之一：过度信任（验证、正确得出结论，然后让步）、幻觉（为翻转捏造支持）和调查不足（在第一个佐证信号处停止）。对于两名 Claude 评判者，失败主要是过度信任（占有害翻转的 67-75%），而较小的评判者其错误模式分布在全部三种模式中。轻量级缓解措施削弱但从未消除该偏误。
| 评论： | 预印本。审稿中 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.05662 [cs.AI] |
| （或 arXiv:2611.05662v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.05662 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Khushbu Pahwa [查看邮箱]
[v1]
2026年11月3日星期二 21:47:19 UTC（958 KB）
来源：arXiv cs.AI · arxiv.org