arXiv cs.AI· Yupeng Su, Jiayi Tian, Zheng Zhang, Souvik Kundu·· 10 天前AI 评分43
ReFold：面向长程智能体的免训练可逆轮间上下文折叠
ReFold: Training-Free Reversible Inter-Turn Context Folding for Long-Horizon Agents
AI 导读
ReFold 是一种免训练的渲染层方法，通过将早前轮次已展示的内容替换为占位符、把智能体自报完成的轮次折叠为一行注释，压缩模型渲染上下文而不改动底层交互历史，且每次移除均可严格还原。
正文 · AI 翻译
摘要：长时程 LLM 智能体基于仅追加的交互历史行动，而该历史在每一步都会被重新发送给模型，因此上下文及其成本会随步数增长，直到会话超出上下文窗口。现有方法通过上下文需求预测来管理上下文，依赖额外的模型调用、启发式规则或训练好的策略。然而，这些预测性方法会引入运行时开销、使前缀缓存失效，并永久丢弃内容且无法保证恢复。为克服这些局限，我们提出 ReFold：一种免训练的渲染层，在保留底层交互历史的同时，仅压缩模型渲染出的上下文。它无需辅助预测器即可消除两类轮次间冗余：较早轮次已展示过的内容，替换为占位符；以及智能体自身报告已完成的轮次，折叠为一行注释。两种操作均采用分块渲染，每隔若干步重写一次缓存前缀，而非每一步都重写。每次移除都是严格可逆的，错误的移除只需从历史中恢复一次，而非永久丢失内容。由于 ReFold 工作在渲染层，它可即插即用地适配标准 ReAct 风格的框架。在五个长时程基准和两个前沿 LLM 上的评估表明，ReFold 将 token 消耗最多降低 2.5 倍，并将每个会话的 KV 缓存内存减半，且不降低任务成功率。在受限的上下文预算下，它最多可避免 92% 的强制压缩。在并发服务负载下，它将请求排队延迟最多降低 100%，将推理速度最多提升 1.7 倍，同时将推理成本最多降低 3.4 倍。
| 评论： | 27 页，6 张图，14 张表 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.07863 [cs.CL] |
| （或 arXiv:2610.07863v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07863 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yupeng Su [查看邮箱]
[v1]
2026 年 10 月 6 日星期二 07:09:54 UTC（258 KB）
来源：arXiv cs.AI · arxiv.org