研究者提出KV-LTM会话级缓存长期记忆方案
热点事件持续更新
研究者提出KV-LTM会话级缓存长期记忆方案
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Ziv Kfir 与 Ido Kfir 提出 KV-LTM 记忆层:在固定读取模型下,把每个会话的原始文本连同其 KV 缓存一起存储,回答时直接恢复缓存会话并追加问题,从而避免重新预填充。 代价是存储开销:按每用户每天 30K token 的场景测算,每用户每年约需 0.34–3.6 TB,而原始文本仅约 49 MB,单 token 状态约 31K–328K 字节。该测算来自提出者,方案效果尚未经独立验证。
AI 根据报道生成 · 1 小时前更新
最新进展11月18日 13:00
KV-LTM:以持久化每会话 KV 缓存作为个人助理的长期记忆报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AIKV-LTM:以持久化每会话 KV 缓存作为个人助理的长期记忆
研究者提出 KV-LTM,将每个会话的原始文本与其 KV 缓存一同存储,回答时直接恢复缓存会话并追加问题,从而避免重新预填充。按 30K token/天场景测算,每用户年存储约 0.34-3.6 TB,而原始文本仅约 49 MB,单 token 状态约 31K-328K 字节。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。