arXiv cs.AI· Jianghong Zhou, Hao Rong, Chen Lin, Daoan Zhang·· 3 天前AI 评分32
LLM 智能体的推理收缩与安全记忆复用边界
Many Steps into One: Reasoning Contraction and the Limits of Safe Memory Reuse for LLM Agents
AI 导读
研究提出"推理收缩"概念，指出思维模板、技能库、智能体记忆与缓存把多步推理压缩为一步，但事实变化后记忆会悄然给出错误答案。在五个 LLM 的多跳问答测试中，ExpeL 与 ACE 式计数器比经认证记忆多输出 7.0-13.5 倍过期答案，代码任务上多出 35-73 倍。作者提出按各记忆自身似然比加权失败、对照实时推理认证效用、事实变化时重启证书的方案。
正文 · AI 翻译
摘要：思维模板、技能库、智能体记忆和缓存将许多推理步骤合并为一步。我们称之为推理收缩。收缩后的记忆会节省推理步骤并减少错误，直到其事实发生变化，然后便会悄然给出错误答案。大多数系统通过统计成功和失败次数来信任记忆。我们证明，此类计数器是严重失准的变化检测器：对称计数器只有在经过其误报视界的幂次之后才会注意到部分变化，而未截断的计数器可能永远无法察觉。在五个 LLM 对编辑后事实回答多跳问题的实验中，ExpeL 和 ACE 风格的计数器在相同信息下提供的过时答案比经过认证的记忆多 7.0-13.5 倍，而在具有精确验证器的代码任务上则多 35-73 倍。安全也有代价。当事实发生变化，且每个记忆仅根据其自身已验证的结果来评判时，一个数字——认证负载——决定了任何安全记忆可以跳过多少推理，并且在 Zipf 需求下，它产生了一条缩放定律。我们的方法根据每个记忆自身的似然比来权衡其失败，对照实时推理来认证其效用，并在事实变化时重启认证，以似然比检测器作为未宣布变化的安全网；对于大规模编辑，它还会使该记忆失效。
| 评论： | 57 页 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.17544 [cs.CL] |
| （或 arXiv:2610.17544v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17544 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Jianghong Zhou [查看电子邮件]
[v1]
2026年10月13日星期二 01:16:37 UTC（444 KB）
来源：arXiv cs.AI · arxiv.org