arXiv cs.AI· Minh Pham Van, Cong Tran·· 11 小时前AI 评分34
知识冲突不该靠固定规则：GRACE 基准与先验驱动的双源解码方法
Don't Pick a Winner: Knowledge Conflicts Need a Prior, Not a Rule
AI 导读
针对检索增强模型在上下文与自身知识冲突时依赖固定规则的问题，研究者提出需分别保留两个来源的证据并引入“上下文正确频率”的先验，在 GRACE 基准上以真实正确比例设定先验 π 后，各上下文混合比例下均优于最佳基线，最高领先 26 分。
正文 · AI 翻译
摘要：检索增强语言模型从两个来源作答：检索到的上下文和自身知识；当上下文不完整或有误时，两者就会产生分歧。现有方法在设计阶段就用固定规则来解决这一分歧：遵循上下文、按上下文推动模型的程度成比例地放大它，或信任模型记忆。每条规则在某些部署场景中都会自信地出错。在双来源的决策论模型中，任何固定规则的得分都与可靠上下文所占比例呈线性关系，而可达到的最佳得分是凸的，因此任何固定规则只要不是恰好最优，就会在相应场景中被击败；而两个来源之间的对称散度——自适应解码所使用的信号——并不携带关于哪一方正确的信息。因此，解决冲突需要两个现有方法都未保留的输入：分别关于每个来源的证据，以及关于上下文正确频率的先验。我们在 GRACE 上检验这些主张；该基准对固定问题的知识图谱上下文进行干预，从而分别测量模型所知、上下文所述以及真实情况。在该基准上，来自四个家族的每个基线在正确上下文或错误上下文上表现强劲，但从未在两者上都强。随后我们构建这两个输入：模型以笔记形式陈述其知识，一个小型策略以校准后的置信度为每条笔记发声，一个阅读器以两种声音作答，一个选择器在应用为精确先验偏移的先验 $\pi$ 下做出承诺或弃权。将 $\pi$ 设为正确上下文的真实比例后，该系统在 GRACE 上下文的每一种混合下都优于最佳基线，最高领先 26 个百分点。其总体得分为 45.3 和 35.0（Qwen3.5-35B-A3B、Llama-3.1-8B），而最佳基线为 29.4 和 27.5。在预注册的 ClashEval 上，它比同骨干的 CK-PLUG 和 TCR 分别高出 12 和 26 个百分点。在模型缺乏知识的地方，增益消失，正如理论所预测。
| 评论： | 49 页（9 页正文 + 附录和补充材料），14 幅图 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.36169 [cs.AI] |
| （或 arXiv:2610.36169v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.36169 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Minh Pham Van [查看电子邮件]
[v1]
2026 年 10 月 26 日星期一 19:03:29 UTC（440 KB）
来源：arXiv cs.AI · arxiv.org