跳到正文
arXiv cs.CL· Baibei Ji, Xiaoyang Weng, Juntao Li, Zecheng Tang, Yihang Lou, Min Zhang·· 6 天前AI 评分23

MemReread:通过记忆引导重读增强智能体长上下文推理

MemReread: Enhancing Agentic Long-Context Reasoning via Memory-Guided Rereading

AI 导读

MemReread 提出一种基于流式阅读的智能体记忆方法,在最终记忆不足时触发问题分解与定向重读,绕过中间检索以恢复被过早丢弃的间接证据。其配套强化学习框架提升长度外推能力,并按任务复杂度自适应决定重读次数。MemReread-4B 在 2WikiMultiHopQA 上较 DeepSeek-V4-Pro 提升 1.6pp,同时保持相对上下文长度的线性时间复杂度。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:长上下文推理任务推动了智能体记忆方法的发展,这些方法按顺序处理文档块,同时维护动态更新的记忆,避免了标准注意力的二次复杂度。现有方法通常依赖检索来恢复记忆覆写过程中丢弃的信息,但仍然容易在记忆形成过程中丢失证据,并受到无效查询的干扰。为克服这些局限,我们提出了 MemReread。它建立在流式阅读之上,绕过中间检索,在最终记忆不足时触发问题分解和针对性重读。通过恢复可能被过早丢弃的间接证据,MemReread 实现了非线性推理,同时保留了文档理解的逻辑流程。我们进一步引入了一个强化学习框架,改进了长度外推,并根据任务复杂度自适应地确定重读遍数,从而实现对计算开销的灵活控制。我们的 MemReread-4B 在长上下文推理任务上优于强基线(例如,在 2WikiMultiHopQA 上比 DeepSeek-V4-Pro 高 1.6 个百分点),同时保持相对于上下文长度的线性时间复杂度。
学科: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2605.10268 [cs.CL]
  (或使用 arXiv:2605.10268v2 [cs.CL] 查看此版本)
  https://doi.org/10.48550/arXiv.2605.10268

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Baibei Ji [查看邮箱]
[v1] 2026年5月11日星期一 09:30:59 UTC(556 KB)
[v2] 2026年10月9日星期五 03:40:27 UTC(504 KB)

来源:arXiv cs.CL · arxiv.org