arXiv cs.AI· Cosmo Santoni·· 11 小时前AI 评分38
Contextual Memory Virtualisation:面向 LLM 智能体的 DAG 状态管理与结构无损裁剪
Contextual Memory Virtualisation: DAG-Based State Management and Structurally Lossless Trimming for LLM Agents
AI 导读
研究者提出 Contextual Memory Virtualisation(CMV),把 LLM 智能体在上下文窗口中积累的状态建模为有向无环图(DAG),提供快照、分支、裁剪原语,支持跨并行会话复用上下文。
正文 · AI 翻译
摘要:随着大语言模型参与长时间推理任务,它们会在上下文窗口中积累大量状态——架构映射、权衡决策、代码库约定。当会话达到上下文上限并经历有损压缩时,这些理解就会丢失。我们提出上下文记忆虚拟化(CMV),一种将大语言模型积累的理解视为受版本控制状态的系统。借鉴操作系统虚拟内存,CMV 将会话历史建模为有向无环图(DAG),并形式化定义了快照、分支和裁剪原语,使上下文能够在独立的并行会话之间复用。我们引入一种三遍结构无损裁剪算法,逐字保留每条用户消息和助手回复,同时通过剥离原始工具输出、base64 图像和元数据等机械性冗余,将会话的 token 数平均减少 20%,对于开销显著的会话最高可减少 86%。一项针对 76 个真实世界编码会话的单用户案例研究评估表明,在提示缓存下裁剪仍具有经济可行性,其中混合工具使用会话收益最大,平均减少 39%,并在 10 轮内达到盈亏平衡。参考实现见 此 https URL。
| 评论: | 11 页,6 幅图。为 LLM 智能体引入基于 DAG 的状态管理系统。在 76 个编码会话上的评估显示 token 减少最高达 86%(平均 20%),同时在提示缓存下仍具经济可行性。包含 Claude Code 的参考实现 |
| 主题: | 软件工程(cs.SE);人工智能(cs.AI);人机交互(cs.HC);操作系统(cs.OS) |
| 引用为: | arXiv:2602.22402 [cs.SE] |
| (或 arXiv:2602.22402v2 [cs.SE] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2602.22402 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Cosmo Santoni [查看邮箱]
[v1]
2026 年 2 月 25 日周三 20:52:52 UTC(682 KB)
[v2]
2026 年 10 月 22 日周四 22:21:54 UTC(682 KB)
来源:arXiv cs.AI · arxiv.org