arXiv cs.CL· Yating Wu, Yuhao Zhang, Sayan Ghosh, Sourya Basu, Anoop Deoras, Jun Huan, Gaurav Gupta·· 3 天前AI 评分44
ContextWeaver:面向 LLM 智能体的选择性依赖结构化记忆构建
ContextWeaver: Selective and Dependency-Structured Memory Construction for LLM Agents
AI 导读
ContextWeaver 是一个面向 LLM 智能体的选择性依赖结构化记忆框架,将交互轨迹组织为推理步骤图,通过依赖构建与遍历、紧凑依赖摘要和轻量验证层为后续动作选取相关上下文。在五个软件工程与终端基准上,它以固定预算提升全部五项任务的解决率,并减少 13-18% 的智能体步数;在 SWE-Bench Pro 上将解决率从 66.5% 提升至 72.6%,三个模型骨干均有显著提升。
正文 · AI 翻译
摘要:大型语言模型(LLM)智能体在长上下文交互中常常表现不佳。随着历史记录增长,滑动窗口和提示压缩可能会丢弃后续步骤所依赖的早期信息。基于检索的记忆系统能呈现相关内容,但仍忽略了步骤之间的因果和逻辑依赖关系。我们提出 ContextWeaver,一种选择性且依赖结构化的记忆框架,它将智能体的交互轨迹组织为推理步骤图,并为未来动作选择相关上下文。ContextWeaver 支持(1)基于依赖的构建与遍历,将每个步骤与其所依赖的早期步骤关联起来;(2)推理路径的紧凑依赖摘要;(3)结合执行反馈的轻量级验证层。在五个软件工程和终端基准测试中,每个任务预算固定,ContextWeaver 在全部五个基准上均比滑动窗口基线提高了解决率,跨基准汇总时提升显著,同时使用的智能体步骤减少了 13-18%。它相比其他上下文管理方法也表现更优,在长时程仓库任务上提升最大。在 SWE-Bench Pro 上,ContextWeaver 将解决率从 66.5% 提升至 72.6%,在全部三个模型骨干上均有显著改进。当滑动窗口的预算提高到足以覆盖摘要成本时,这一改进依然成立。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2604.23069 [cs.CL] |
| (或 arXiv:2604.23069v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2604.23069 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自:Yating Wu [查看邮箱]
[v1]
2026年4月24日星期五 23:39:49 UTC(542 KB)
[v2]
2026年10月14日星期三 04:04:03 UTC(160 KB)
来源:arXiv cs.CL · arxiv.org