SeKV：按需恢复压缩片段的KV缓存
热点事件持续更新
SeKV：按需恢复压缩片段的KV缓存
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Amirhossein Abaskohi 等作者提出 SeKV，一种分辨率自适应的 KV 缓存方法：解码时由一个训练好的 zoom-in 机制决定把哪些压缩片段恢复到 token 分辨率，基础大模型保持冻结，新增的路由器参数不到 0.1%。 该方法面向长上下文 LLM 推理，目的是在压缩 KV 缓存的同时按需保留关键片段的原始分辨率；目前公开的是方法描述，尚未见其在不同任务上的效果数据。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
SeKV：面向长上下文 LLM 推理的分辨率自适应 KV Cache报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.CLSeKV：面向长上下文 LLM 推理的分辨率自适应 KV Cache
SeKV 是一种分辨率自适应 KV Cache，通过训练好的 zoom-in 机制在解码时决定将哪些压缩片段恢复到 token 分辨率，基础 LLM 保持冻结，路由器新增参数不到 0.1%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。