arXiv cs.MA· Liangjie Huang, Henry Peng Zou, Wei-Chieh Huang, Wooseong Yang, Yuwei Han, Philip S. Yu·· 2 天前AI 评分44
多智能体 LLM 讨论中的隐藏信念崩塌：被相信却未被说出的错误答案
Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions
AI 导读
一项 arXiv 研究用十智能体事实讨论测试 LLM 群体纠错假设：无攻击者时仅 0.6% 的良性智能体最终接受错误答案，加入 1 个对抗智能体后升至 44.8%，3 个则达 60.5%。
正文 · AI 翻译
摘要：LLM 系统越来越依赖智能体群体进行讨论、批评和相互检查，假设同伴能够发现个体错误。我们用一个最小的对抗者来检验这一假设。在一个十智能体的事实讨论中，一个或三个对抗性智能体反复断言一个看似合理的错误答案。每一轮之后，我们通过一个对其同伴隐藏响应的单独调用，探查每个良性智能体的私下答案，并单独标注其对这一主张的公开立场。在六个模型和三个事实问答数据集上，没有攻击者时群体保持稳定：只有 0.6% 的良性智能体最终给出错误答案。一个对抗性智能体将这一比例提高到 44.8%，三个则提高到 60.5%。关于从众的研究通常报告公开同意而无私下改变；我们发现情况相反。当存在三个对抗性智能体时，良性智能体在 51.6% 的暴露轮次中持有错误答案，但只有 19.7% 公开表示赞同。因此，大部分影响在讨论中仍然不可见，而且当智能体被问及自己的观点时，错误答案依然存在。保留正确答案的智能体往往无法为其辩护；一旦被采纳，错误答案便在良性智能体之间传播，而基线知识并不能预测鲁棒性。
| 评论： | 14 页，6 幅图 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2610.22138 [cs.AI] |
| （或 arXiv:2610.22138v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.22138 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Liangjie Huang [查看电子邮件]
[v1]
2026年10月15日星期四 16:12:07 UTC（381 KB）
来源：arXiv cs.MA · arxiv.org