跳到正文
arXiv cs.AI· Zefeng Cai, Zerui Cai·· 9 天前AI 评分28

稀疏事件-KV 的记忆契约:全局计算,本地物化

Compute Globally, Materialize Locally: The Memory Contract of Sparse Event-KV

AI 导读

研究提出"语义物化"现象:在长程智能体的 KV cache 中,下游事件的缓存行可作为独立可服务的计算视图,即使产生它的输入已被丢弃。在 Qwen3-8B 上,刻意构造的不含答案的事件可将 donor-aligned 恢复率从 6% 提升至 51%,而被动采集长期对话中的自然提及未检测到优势。紧凑状态可存活,较大载荷衰减至随机水平,且是否写入取决于措辞而非语义。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:长时程智能体越来越多地将其 KV 缓存复用为记忆:服务系统保留一部分缓存条目,丢弃其余部分。因此,淘汰与情景记忆方案都建立在一个很少被直接检验的前提之上:一旦产生某事件的观测不复存在,被保留的事件是否仍然具有信息量。我们通过从所服务的内容中省略一个较早的观测来检验这一点,其余智能体历史完全相同。在对该观测敏感的条目中,答案绝大多数遵循被省略的值,尽管没有任何被服务的片段说明哪个值是正确的。我们将此称为语义物化:下游事件的缓存行充当了计算的一个可独立服务的视图,而该计算的输入已经消失。它也可以被有意写入。一个刻意措辞、不含答案的事件在 Qwen3-8B 上将供体对齐恢复率从 6% 提升到 51%,且从未提及该值,而被动地从长期对话中采集自然提及则未检测到优势。这样的行所携带的内容是具体且有界的。紧凑状态得以保留,较大的载荷衰减至随机水平,而一个构造是否写入完全取决于措辞而非仅取决于含义,因此模型同样理解良好的两种措辞可能产生显著差异。这一结果为稀疏事件-KV 服务给出了记忆契约:写什么、落在何处,以及一旦来源消失后什么得以保留。对于任何进行淘汰的人来说,其推论是:丢弃一个来源事件而未观察到准确率下降,并不能表明该来源是不必要的。
主题: 人工智能(cs.AI)
引用为: arXiv:2607.23693 [cs.AI]
  (或使用 arXiv:2607.23693v2 [cs.AI] 获取此版本)
  https://doi.org/10.48550/arXiv.2607.23693

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Zerui Cai [查看电子邮件]
[v1] 2026年7月26日星期日 14:37:53 UTC(167 KB)
[v2] 2026年10月7日星期三 20:13:59 UTC(203 KB)

来源:arXiv cs.AI · arxiv.org