arXiv cs.AI· Kaiming Liu, Fuwen Luo, Ziyue Wang, Jinrui Ju, Yuxuan Liu, Xuanyu Lei, Yunghwei Lai, Peng Li, Yang Liu·· 3 天前AI 评分34
对齐的幻觉：检测协作对话中的隐藏分歧
Illusion of Alignment: Detecting Hidden Disagreement in Collaborative Dialogue
AI 导读
研究提出"对齐的幻觉（IoA）"概念，指协作对话表面达成一致、参与者却在目标或执行计划上仍有分歧，18 场真实会议研究证实其普遍存在。团队构建 IoA-Suite 数据集与评测协议，最佳模型仅达 49.5% F1，瓶颈在于对话未暴露的私有上下文；基于此训练的 IoA-Prober-8B 达到 51.8% F1，在 18 场真实会议中每场平均发现 2.89 处参与者确认未曾说出的隐藏分歧。
正文 · AI 翻译
摘要：协作对话可能在表面上达成一致，而参与者仍在目标、假设或执行计划上存在分歧，从而制造出\textbf{对齐错觉（IoA）}。一项涵盖 18 场会议的真实用户研究证实，IoA 在人类协作中经常出现。然而 IoA 构成了一个悖论：如果参与者意识到此类分歧，它们早已被明确表达；如果没有意识到，他们在被问及时也无法将其表述出来，从而使 IoA 对参与者和观察者都不可见。在这项工作中，我们通过生成诊断性多项选择题使 IoA 可被检测，这些问题在参与者之间产生的分歧答案直接提供了隐藏分歧的行为证据。我们构建了\textbf{IoA-Suite}，一个用于检测隐藏分歧的数据集和评估协议，涵盖五种任务类型和六个领域。我们发现，即使是最好的模型也仅达到 49.5\% F1，瓶颈可追溯到对话未能揭示的私有上下文。随后我们基于 IoA-Suite 训练了\textbf{IoA-Prober-8B}，在 IoA-Suite 上达到 51.8\% F1。在上述 18 场真实会议中，它每场会议平均揭示 2.89 个参与者确认自己未曾表达的隐藏分歧，并可迁移到实时人类对话中。此外，在多智能体协作中，将 IoA-Prober-8B 与 LLM 智能体配对可提升 BigCodeBench-Hard 和 HiddenBench 上的下游任务性能。
| Subjects: | 人工智能（cs.AI） |
| 引用为： | arXiv:2608.08210 [cs.AI] |
| （或 arXiv:2608.08210v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.08210 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kaiming Liu [查看邮箱]
[v1]
2026年8月8日星期六 16:11:58 UTC（1,110 KB）
[v2]
2026年10月13日星期二 07:15:19 UTC（2,639 KB）
来源：arXiv cs.AI · arxiv.org