免训练KV缓存压缩方法GRKV提出
热点事件持续更新
免训练KV缓存压缩方法GRKV提出
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Junjie Peng等作者提出免训练的KV缓存合并压缩方法GRKV,通过岭回归将淘汰token的信息分摊到保留token上,直接最小化压缩缓存与完整缓存注意力输出的差异。 作者称,在LongBench和RULER长上下文基准上,GRKV是唯一能在开销极小的前提下提升整体性能的合并方法。该工作已被EMNLP 2026主会接收,代码已开源。
AI 根据报道生成 · 45 分钟前更新
最新进展10月26日 12:00
GRKV:面向长上下文 LLM 的免训练 KV Cache 压缩全局回归方法报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv cs.CLGRKV:面向长上下文 LLM 的免训练 KV Cache 压缩全局回归方法
GRKV 是一种免训练的 KV Cache 合并方法,通过岭回归将淘汰 token 的信息分摊到保留 token 上,直接最小化压缩缓存与完整缓存注意力输出的差异。在 LongBench 和 RULER 长上下文基准上,GRKV 是唯一能在开销极小的前提下提升整体性能的合并方法。该工作已被 EMNLP 2026 主会接收,代码已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。