跳到正文
arXiv cs.CL· Yating Wu, Yuhao Zhang, Sayan Ghosh, Sourya Basu, Anoop Deoras, Jun Huan, Gaurav Gupta·· 3 天前AI 评分44

ContextWeaver:面向 LLM 智能体的选择性依赖结构化记忆构建

ContextWeaver: Selective and Dependency-Structured Memory Construction for LLM Agents

AI 导读

ContextWeaver 是一个面向 LLM 智能体的选择性依赖结构化记忆框架,将交互轨迹组织为推理步骤图,通过依赖构建与遍历、紧凑依赖摘要和轻量验证层为后续动作选取相关上下文。在五个软件工程与终端基准上,它以固定预算提升全部五项任务的解决率,并减少 13-18% 的智能体步数;在 SWE-Bench Pro 上将解决率从 66.5% 提升至 72.6%,三个模型骨干均有显著提升。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)智能体在长上下文交互中常常表现不佳。随着历史记录增长,滑动窗口和提示压缩可能会丢弃后续步骤所依赖的早期信息。基于检索的记忆系统能呈现相关内容,但仍忽略了步骤之间的因果和逻辑依赖关系。我们提出 ContextWeaver,一种选择性且依赖结构化的记忆框架,它将智能体的交互轨迹组织为推理步骤图,并为未来动作选择相关上下文。ContextWeaver 支持(1)基于依赖的构建与遍历,将每个步骤与其所依赖的早期步骤关联起来;(2)推理路径的紧凑依赖摘要;(3)结合执行反馈的轻量级验证层。在五个软件工程和终端基准测试中,每个任务预算固定,ContextWeaver 在全部五个基准上均比滑动窗口基线提高了解决率,跨基准汇总时提升显著,同时使用的智能体步骤减少了 13-18%。它相比其他上下文管理方法也表现更优,在长时程仓库任务上提升最大。在 SWE-Bench Pro 上,ContextWeaver 将解决率从 66.5% 提升至 72.6%,在全部三个模型骨干上均有显著改进。当滑动窗口的预算提高到足以覆盖摘要成本时,这一改进依然成立。
学科: 计算与语言(cs.CL)
引用为: arXiv:2604.23069 [cs.CL]
  (或 arXiv:2604.23069v2 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2604.23069

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Yating Wu [查看邮箱]
[v1] 2026年4月24日星期五 23:39:49 UTC(542 KB)
[v2] 2026年10月14日星期三 04:04:03 UTC(160 KB)

来源:arXiv cs.CL · arxiv.org