arXiv cs.CL· Guanghui Min, Chen Chen·· 2 天前AI 评分32
剪掉摘要而非历史:面向长程智能体的 Source-Judged Compaction
Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents
AI 导读
针对长程 LLM 智能体的上下文压缩问题,研究者提出免训练的后处理步骤 Source-Judged Compaction(SJC):用非生成式决策模型 Jev 为摘要中每条内容打分,判断其是否有环境输出或上一版摘要作为来源,并删除无来源条目。
正文 · AI 翻译
摘要:长时程 LLM 智能体依赖上下文压缩:当交互历史超出上下文窗口时,压缩器会将其替换为自然语言摘要。我们表明,这些摘要包含的不只是发生事件的记录。压缩提示要求给出决策和后续步骤,因此每个摘要都混合了环境所确立的事实与压缩器所写的推理,而智能体事后无法区分二者。在对一个广泛使用的结构化压缩器的分析中,83% 的失败运行可追溯到一个执行了某条具体摘要条目的动作,其中大多数条目没有环境输出支持。我们提出 Source-Judged Compaction(SJC),一种无需训练的后处理步骤,它对每条摘要条目评分,判断其在环境输出或先前摘要中是否有来源,并删除没有来源的条目。它既不改变智能体也不改变压缩器,每次压缩仅增加一次低成本的评判请求。该评判器是 Jev,一种非生成式决策模型,它以校准概率而非文本回答来源问题。在 AppWorld 和 OfficeBench 上,使用两个智能体模型,SJC 将底层压缩器的跨运行可靠性提升了 2.1%-8.9%,且未增加智能体的 token 用量。
| 评论: | 使用 Jev(一种非生成式决策模型)作为来源评判器。代码:此 https URL |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.20927 [cs.CL] |
| (或 arXiv:2610.20927v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.20927 arXiv 颁发的 DOI 经由 DataCite(待注册) |
提交历史
来自:Guanghui Min [查看邮箱]
[v1]
2026 年 10 月 14 日星期三 20:57:32 UTC(293 KB)
来源:arXiv cs.CL · arxiv.org