arXiv cs.MA· Jiayuan Liu, Shiyi Du, Weihua Du, Xinhao Cheng, Mingyu Guo, Vincent Conitzer·· 10 小时前AI 评分34
共识陷阱：用交错协作生成抵御被污染多数派
The Consensus Trap: Collaborative Interleaved Generation to Defend against a Corrupted Majority
AI 导读
研究提出“共识陷阱”现象：多数 LLM 智能体若被引导倾向同一错误答案，多数投票反而会强化错误。为此提出 chunk-interleaved Round-Robin（RR）协作，让智能体轮流续写同一条未完成的推理轨迹，使掌握正确推理的少数派能在答案完成前插入修正；RRMaj 再对多条轨迹做最终投票。
正文 · AI 翻译
摘要：多数投票提供了一种简单的方法来整合多个大型语言模型（LLM）智能体的答案。然而，当多数方遵循倾向于同一错误答案的指令时，一致性反而会强化错误。我们将这种失败称为“共识陷阱”：少数方可能识别出错误，但其推理无法改变基于已完成答案的投票。我们引入了分块交错轮询（RR）协作，其中智能体轮流扩展同一条未完成的推理轨迹。具有正确推理的少数智能体可以在答案完成之前插入修正，供后续发言者阅读。RRMaj 通过最终投票来整合若干这样的轨迹。我们刻画了针对最终答案标签的结果级投票的多数壁垒，并推导出当少数方的累积修正超过对立的被污染更新时预期进展的局部充分条件。在多个模型家族和可验证推理基准上，RRMaj 在多数污染下显著提高了准确率，同时在主要建议指令设置下的少数污染下保持了可比的平均性能。RR 还增强了完整回复辩论。对轮次之间共享推理的评分显示，平均而言，未被污染的智能体的续写会增加对正确答案而非错误目标的支持。并行本地服务在实测部署中增加了适度的延迟。这些发现表明，推理过程中共享的语言以及这种交流的时机，如何能帮助少数方纠正群体的答案。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2604.17139 [cs.CL] |
| （或 arXiv:2604.17139v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.17139 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jiayuan Liu [查看电子邮件]
[v1]
2026年4月18日星期六 20:31:37 UTC（138 KB）
[v2]
2026年11月6日星期五 11:13:49 UTC（150 KB）
来源：arXiv cs.MA · arxiv.org