arXiv cs.CL· Yibin Lou, Yi Hu, Jianhui Chen, Chenpeng Wang, Muhan Zhang, Liangming Pan·· 3 天前AI 评分29
LLM 该信任哪些知识？研究揭示跨知识冲突的通用引导方向
Which Knowledge Should LLMs Trust? Uncovering a Generalizable Steering Direction Across Knowledge Conflicts
AI 导读
研究发现 LLM 在内部参数知识与外部上下文知识之间的选择是线性可表示的，可通过残差流中的单一方向进行控制。该方向能跨上下文格式、知识类别和数据集泛化，并可从简单事实冲突迁移到 RAG、记忆和规则遵循三类任务，在四个模型家族中一致提升模型对提示所提供信息的利用。
正文 · AI 翻译
摘要：大型语言模型（LLM）经常遇到内部参数化知识与外部上下文知识之间的冲突，然而支配这种选择的机制仍不清楚。我们表明，上下文与参数化知识之间的选择是线性表示的，并且可以沿模型残差流中的单一方向进行控制。我们首先证明，该方向在事实冲突场景中具有泛化性，包括上下文格式、知识类别和数据集，同时持续在参数化答案与上下文答案之间切换行为。随后，我们将从简单事实冲突中学到的方向迁移到三个更复杂的任务族：RAG、记忆和规则遵循，在这些任务中，模型必须从检索到的文档、交互历史或显式规则中获取信息。在四个模型族和多种迁移设置中，引导一致地改善了模型对提示所提供信息的利用，优于未引导的模型。这些结果表明，该方向捕捉到的是对外部知识的可迁移偏好，而非特定于事实冲突的机制。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.20067 [cs.CL] |
| （或 arXiv:2610.20067v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.20067 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yibin Lou [查看电子邮件]
[v1]
2026年10月14日星期三 12:06:32 UTC（1,191 KB）
来源：arXiv cs.CL · arxiv.org