DCKV:首个端到端训练的KV缓存编解码器
热点事件持续更新
DCKV:首个端到端训练的KV缓存编解码器
1 篇报道1 个报道来源12 小时前更新
先了解这件事
AI 综述
Egor Maximov 等作者提出 DCKV,一种面向混合语言模型提示词 KV 缓存的可微编解码器,并称其为首个端到端训练的 KV 缓存编解码器。其变换、量化器和熵模型以提示词 token 及已解码邻接位置为条件,与冻结的语言模型联合优化。 在 Qwen3.5-2B 上,DCKV 以比 bf16 少 55 倍以上的字节存储压缩 token,三个长上下文基准最多损失 1.8 分;字节减少 100 倍以上时最多损失 3.6 分。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
DCKV:面向混合语言模型提示词 KV Cache 的可学习变换编码报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.AIDCKV:面向混合语言模型提示词 KV Cache 的可学习变换编码
DCKV 是首个端到端训练的 KV cache 编解码器,其变换、量化器和熵模型以提示词 token 及已解码邻接位置为条件,与冻结的语言模型联合优化。在 Qwen3.5-2B 上,DCKV 以比 bf16 少 55 倍以上的字节存储压缩 token,三个长上下文基准最多损失 1.8 分;字节减少 100 倍以上时最多损失 3.6 分。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。