arXiv cs.AI· Junyu Guo, Yuchen Fang, Shangding Gu, Costas Spanos, James Demmel, Javad Lavaei·· 13 小时前AI 评分52
研究揭示 LLM 上下文更新失败：旧值绑定与注意力漂移
When Context Changes: Understanding Update Failures in LLMs
AI 导读
论文提出 LLM 智能体在上下文同时保留新旧信息时可能用旧值回答，称为 stale binding，并发布 Controlled In-Context Memory（CICM）基准用于追踪对话和智能体日志中的更新信息。
正文 · AI 翻译
摘要：随着偏好、目标和事实发生变化，LLM 智能体必须使用当前状态，而较早的版本仍保留在上下文中。然而，它们可能会用同一变量的旧值来回答，我们将这种失败称为陈旧绑定。为了研究模型何时使用过时信息以及原因，我们引入了受控上下文记忆（CICM），这是一个用于在对话和智能体日志中跟踪并使用更新信息的基准。我们观察到，即使是前沿推理模型也可能无法恢复当前状态。我们发现，在开源模型中，当模型用旧值回答时，探针仍能恢复更新后的值，这表明模型未能选择仍然可用的信息。Qwen 和 Pythia 中的组件测试确定了这种选择失败的机制：注意力漂移，即在生成答案时注意力偏向旧值而非当前值。我们研究了一个单层 transformer，以从数学上理解这一现象是如何发生的：当注意力分数相似时，多个旧值可以共同获得比当前值更多的注意力。在这一解释的指导下，我们在不进一步训练的情况下将注意力重新导向当前值。当直接请求当前值时，针对每个输入调整这一干预措施，可以在各种模型家族中纠正大多数旧值错误，同时几乎保留所有最初正确的答案。因此，可靠的上下文管理需要的不仅仅是记住更新后的信息：模型必须使用它来指导其答案。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2609.38866 [cs.AI] |
| （或 arXiv:2609.38866v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.38866 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Junyu Guo [查看电子邮件]
[v1]
2026年9月30日星期三 03:19:14 UTC（1,000 KB）
[v2]
2026年10月29日星期四 01:42:25 UTC（995 KB）
来源：arXiv cs.AI · arxiv.org