跳到正文
arXiv cs.AI· Jizhe Zhang, Ang Li, Chenheng Zhang, Yisen Wang·· 10 小时前AI 评分47

SumOne:为即插即用智能体记忆打造的高效摘要器

SUMONE: A Simple and Efficient Summarizer for Plug-and-Play Agent Memory

AI 导读

SumOne 是一个独立训练的摘要器,通过掩码重建让冻结的重建器还原原始轨迹中被随机遮蔽的部分,结合长度惩罚构成任务无关奖励,用 GRPO 优化,无需参考摘要或下游任务执行。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:长程语言模型智能体会积累越来越庞大的交互历史,因此上下文压缩对高效执行至关重要。现有的学习式压缩方法往往依赖下游任务结果或求解器行为,使训练与特定任务或智能体耦合。我们提出 SumOne,一个独立的摘要器,通过掩码重建训练以保留智能体历史中的信息。给定已过期历史的摘要,一个冻结的重建器恢复原始轨迹中随机掩码的部分;重建质量结合长度惩罚,为用 GRPO 优化摘要器提供了与任务无关的奖励。这直接从原始轨迹中获得自监督,无需参考摘要或下游任务执行。在推理时,仅保留轻量级摘要器,从而为其他方面保持不变的智能体提供即插即用的上下文压缩。我们在长程搜索和软件工程任务中对 SumOne 进行了系统评估。相对于使用完整上下文运行,SumOne 在 DeepSearchQA 上将估计推理成本降低约 78\%,在 SWE-bench Verified 上降低 75\%,绝对下降 0.04。同一检查点还可跨下游模型和智能体框架迁移,无需额外微调。
主题: 人工智能(cs.AI)
引用为: arXiv:2611.06445 [cs.AI]
  (或 arXiv:2611.06445v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.06445

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Jizhe Zhang [查看电子邮件]
[v1] 2026年11月4日星期三 12:49:07 UTC(1,488 KB)

来源:arXiv cs.AI · arxiv.org