arXiv cs.AI· Yuetong Liu, Zhehao Zhou, Yitong Zhang, Haorui Chen, Jia Li·· 10 小时前AI 评分39
Coca-Cola：用隐式上下文压缩让 LLM 智能体不必读取文本工具输出
Tools Need Not Speak in Text: Latent Context Compression for Agents
AI 导读
研究者提出 Coca-Cola，一种面向 LLM 智能体的连续隐式上下文压缩模型，将工具观测压缩为 latent token 并嵌入智能体输入嵌入空间，配合 Action-Preserving Training 对齐完整与压缩观测下的下一动作分布。
正文 · AI 翻译
摘要：大型语言模型（LLM）智能体通常会将原始工具输出追加到其上下文中。在多步交互中，冗长且嘈杂的观测会带来大量上下文开销，并稀释智能体对任务相关信息的注意力。现有的 token 剪枝与摘要方法仍受限于离散文本表示，限制了可实现的压缩比。
在本工作中，我们挑战了智能体必须将工具观测作为显式文本 token 消费的普遍假设。为此，我们提出 Coca-Cola，一种面向 LLM 智能体的连续潜在上下文压缩模型。Coca-Cola 将工具观测压缩为潜在 token，并将其嵌入智能体的输入嵌入空间。我们进一步引入动作保持训练（Action-Preserving Training），使智能体在完整观测和压缩观测下的下一动作分布保持一致。这训练压缩模型学习保留决策关键信息的动作充分潜在 token。在四个 QA 基准和两个模型系列上使用网络搜索智能体进行的实验表明，Coca-Cola 将智能体的 token 消耗降低了 70.01%-89.24%，端到端运行时间降低了 24.45%-55.97%，同时持续提升任务性能。这些结果表明，Coca-Cola 为智能体中的上下文压缩提供了一种有前景的方法。我们的代码可在 此 https URL 获取。
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.06500 [cs.AI] |
| （或 arXiv:2611.06500v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06500 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yuetong Liu [查看邮箱]
[v1]
2026年11月4日星期三 13:32:36 UTC（1,232 KB）
来源：arXiv cs.AI · arxiv.org