arXiv cs.MA· Jonas Becker, Jan Philip Wahle, Terry Ruas, Bela Gipp·· 3 天前AI 评分40
良性多智能体系统中的错误信息传播
Misinformation Propagation in Benign Multi-Agent Systems
AI 导读
研究提出 MINT 数据集，包含 10,278 段 LLM 撰写的八种风格错误信息段落，测试三个开源权重模型在常识推理、知识问答和道德判断上的表现。相关虚假段落使单个智能体准确率损失 0.12-0.43，无关或无内容段落损失通常不超过 0.06。一句不可靠性警告在投票下最多恢复 0.18 准确率，共识下恢复 0.28。
正文 · AI 翻译
摘要：多智能体系统（MAS）被认为能解决复杂问题，但其智能体常常依据可能为假的上下文行事。先前工作表明，单个 LLM 会被虚假上下文左右，而 MAS 可能被对抗性智能体说服同伴而受损。我们研究良性情形：智能体遵循同一协议，无人意图欺骗，但有些读到了误导性段落。我们用 MINT 研究该问题，MINT 包含 10,278 段由 LLM 撰写的、八种风格的错误信息段落，在常识推理、知识问答和道德判断上测试三个开放权重模型。一段相关的虚假段落会让单个智能体损失 0.12-0.43 的准确率；不相关或无内容的段落通常最多损失 0.06。辩论看起来稳健，是因为未受误导的智能体数量多于受误导的智能体。当三分之一受误导时，它并不优于在同等暴露的独立样本上取多数。交互仅在受误导者占多数时有帮助，相比投票最多恢复 0.24 的准确率（共识下为 0.29）。一句不可靠性警告在投票下最多恢复 0.18 的准确率（共识下为 0.28），且当上下文为真时在投票下没有显著代价。稳健性应针对暴露匹配的基线来评判，而提示层面的怀疑态度可作为廉价的第一道防线。
| 评论： | 64 页，12 幅图，31 张表 |
| 主题： | 多智能体系统（cs.MA）；计算与语言（cs.CL） |
| ACM 分类： | A.1；I.2.7 |
| 引用为： | arXiv:2606.16710 [cs.MA] |
| （或本版本用 arXiv:2606.16710v2 [cs.MA]） | |
| https://doi.org/10.48550/arXiv.2606.16710 由 DataCite 提供的 arXiv 颁发 DOI |
提交历史
来自：Jonas Becker [查看邮箱]
[v1]
2026 年 6 月 15 日星期一 13:40:01 UTC（503 KB）
[v2]
2026 年 10 月 14 日星期三 09:21:50 UTC（812 KB）
来源：arXiv cs.MA · arxiv.org