跳到正文
热点事件持续更新

免训练KV缓存压缩方法GRKV提出

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Junjie Peng等作者提出免训练的KV缓存合并压缩方法GRKV,通过岭回归将淘汰token的信息分摊到保留token上,直接最小化压缩缓存与完整缓存注意力输出的差异。 作者称,在LongBench和RULER长上下文基准上,GRKV是唯一能在开销极小的前提下提升整体性能的合并方法。该工作已被EMNLP 2026主会接收,代码已开源。

AI 根据报道生成 · 45 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.CL
    GRKV:面向长上下文 LLM 的免训练 KV Cache 压缩全局回归方法

    GRKV 是一种免训练的 KV Cache 合并方法,通过岭回归将淘汰 token 的信息分摊到保留 token 上,直接最小化压缩缓存与完整缓存注意力输出的差异。在 LongBench 和 RULER 长上下文基准上,GRKV 是唯一能在开销极小的前提下提升整体性能的合并方法。该工作已被 EMNLP 2026 主会接收,代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。