arXiv cs.CL· Baibei Ji, Xiaoyang Weng, Juntao Li, Zecheng Tang, Yihang Lou, Min Zhang·· 6 天前AI 评分23
MemReread:通过记忆引导重读增强智能体长上下文推理
MemReread: Enhancing Agentic Long-Context Reasoning via Memory-Guided Rereading
AI 导读
MemReread 提出一种基于流式阅读的智能体记忆方法,在最终记忆不足时触发问题分解与定向重读,绕过中间检索以恢复被过早丢弃的间接证据。其配套强化学习框架提升长度外推能力,并按任务复杂度自适应决定重读次数。MemReread-4B 在 2WikiMultiHopQA 上较 DeepSeek-V4-Pro 提升 1.6pp,同时保持相对上下文长度的线性时间复杂度。
正文 · AI 翻译
摘要:长上下文推理任务推动了智能体记忆方法的发展,这些方法按顺序处理文档块,同时维护动态更新的记忆,避免了标准注意力的二次复杂度。现有方法通常依赖检索来恢复记忆覆写过程中丢弃的信息,但仍然容易在记忆形成过程中丢失证据,并受到无效查询的干扰。为克服这些局限,我们提出了 MemReread。它建立在流式阅读之上,绕过中间检索,在最终记忆不足时触发问题分解和针对性重读。通过恢复可能被过早丢弃的间接证据,MemReread 实现了非线性推理,同时保留了文档理解的逻辑流程。我们进一步引入了一个强化学习框架,改进了长度外推,并根据任务复杂度自适应地确定重读遍数,从而实现对计算开销的灵活控制。我们的 MemReread-4B 在长上下文推理任务上优于强基线(例如,在 2WikiMultiHopQA 上比 DeepSeek-V4-Pro 高 1.6 个百分点),同时保持相对于上下文长度的线性时间复杂度。
| 学科: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2605.10268 [cs.CL] |
| (或使用 arXiv:2605.10268v2 [cs.CL] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2605.10268 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Baibei Ji [查看邮箱]
[v1]
2026年5月11日星期一 09:30:59 UTC(556 KB)
[v2]
2026年10月9日星期五 03:40:27 UTC(504 KB)
来源:arXiv cs.CL · arxiv.org