跳到正文
arXiv cs.AI· Cosmo Santoni·· 11 小时前AI 评分38

Contextual Memory Virtualisation:面向 LLM 智能体的 DAG 状态管理与结构无损裁剪

Contextual Memory Virtualisation: DAG-Based State Management and Structurally Lossless Trimming for LLM Agents

AI 导读

研究者提出 Contextual Memory Virtualisation(CMV),把 LLM 智能体在上下文窗口中积累的状态建模为有向无环图(DAG),提供快照、分支、裁剪原语,支持跨并行会话复用上下文。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:随着大语言模型参与长时间推理任务,它们会在上下文窗口中积累大量状态——架构映射、权衡决策、代码库约定。当会话达到上下文上限并经历有损压缩时,这些理解就会丢失。我们提出上下文记忆虚拟化(CMV),一种将大语言模型积累的理解视为受版本控制状态的系统。借鉴操作系统虚拟内存,CMV 将会话历史建模为有向无环图(DAG),并形式化定义了快照、分支和裁剪原语,使上下文能够在独立的并行会话之间复用。我们引入一种三遍结构无损裁剪算法,逐字保留每条用户消息和助手回复,同时通过剥离原始工具输出、base64 图像和元数据等机械性冗余,将会话的 token 数平均减少 20%,对于开销显著的会话最高可减少 86%。一项针对 76 个真实世界编码会话的单用户案例研究评估表明,在提示缓存下裁剪仍具有经济可行性,其中混合工具使用会话收益最大,平均减少 39%,并在 10 轮内达到盈亏平衡。参考实现见 此 https URL。
评论: 11 页,6 幅图。为 LLM 智能体引入基于 DAG 的状态管理系统。在 76 个编码会话上的评估显示 token 减少最高达 86%(平均 20%),同时在提示缓存下仍具经济可行性。包含 Claude Code 的参考实现
主题: 软件工程(cs.SE);人工智能(cs.AI);人机交互(cs.HC);操作系统(cs.OS)
引用为: arXiv:2602.22402 [cs.SE]
  (或 arXiv:2602.22402v2 [cs.SE] 用于此版本)
  https://doi.org/10.48550/arXiv.2602.22402

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Cosmo Santoni [查看邮箱]
[v1] 2026 年 2 月 25 日周三 20:52:52 UTC(682 KB)
[v2] 2026 年 10 月 22 日周四 22:21:54 UTC(682 KB)

来源:arXiv cs.AI · arxiv.org