arXiv cs.AI· Dayong Liang, Xiao-Yong Wei, Linhui Xiao, Changmeng Zheng·· 3 天前AI 评分27
多智能体卧底游戏：用反事实测试消除多模态推理中的幻觉
Multi-agent Undercover Gaming: Hallucination Removal via Counterfactual Test for Multimodal Reasoning
AI 导读
研究者提出多智能体卧底游戏（MUG）协议，借鉴"谁是卧底"社交推理游戏，通过修改参考图像引入反事实证据，检测出存在幻觉的"卧底"智能体，为识别幻觉智能体提供真值依据。MUG 从三个维度改进多智能体辩论（MAD）：以反事实测试实现超越统计共识的事实核验、通过动态修改证据源引入跨证据推理、推动智能体主动探究讨论而非被动作答。该工作已被 AAAI 2026 接收，源代码已公开。
正文 · AI 翻译
摘要：幻觉仍然是大语言模型（LLM）推理能力的一大障碍。尽管多智能体辩论（MAD）范式通过促进多个智能体之间达成共识来提升可靠性，提供了一种有前景的解决方案，但它依赖于一个不切实际的假设，即所有辩论者都是理性且善于反思的，而当智能体本身也容易产生幻觉时，这一条件可能并不成立。为弥补这一空白，我们引入了多智能体卧底游戏（MUG）协议，其灵感来源于“谁是卧底？”等社交推理游戏。MUG 将 MAD 重新构建为一个通过多模态反事实测试来检测“卧底”智能体（即那些产生幻觉的智能体）的过程。具体而言，我们修改参考图像以引入反事实证据，并观察智能体能否准确识别这些变化，从而为识别产生幻觉的智能体提供真实标注，并实现稳健的、众包驱动的多模态推理。MUG 在三个关键维度上推进了 MAD 协议：（1）通过反事实测试实现超越统计共识的事实核查；（2）通过动态修改的证据来源引入交叉证据推理，而非依赖静态输入；（3）促进主动推理，即智能体参与探究性讨论而非被动回答问题。总体而言，这些创新为 LLM 中的多模态推理提供了一个更可靠、更有效的框架。源代码可在此 https URL获取。
| 评论： | 已被 AAAI 2026 接收 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；多智能体系统（cs.MA）；多媒体（cs.MM） |
| 引用为： | arXiv:2511.11182 [cs.AI] |
| （或 arXiv:2511.11182v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2511.11182 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Dayong Liang [查看电子邮件]
[v1]
2025年11月14日星期五 11:27:55 UTC（743 KB）
[v2]
2026年10月10日星期六 03:01:22 UTC（556 KB）
来源：arXiv cs.AI · arxiv.org