arXiv cs.AI· Peiliang Cai, Evelyn Zhang, Jiacheng Liu, Hao Lin, Ruiqi Zhang, Weile Mo, Yue Ma, Shikang Zheng, Jiehang Huang, Dongrui Liu, Linfeng Zhang·· 13 小时前AI 评分31
Focused Forcing：面向高效自回归视频扩散的内容感知逐帧 KV 选择
Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion
AI 导读
研究者提出免训练的 KV 选择方法 Focused Forcing，在自回归视频扩散中按生成帧和注意力头两个维度聚焦缓存历史，实现最高 1.48x 端到端加速，同时提升视觉质量与文本对齐。该方法结合注意力分数与历史帧多样性分数为每个生成帧保留最相关且独特的历史帧，并按估计重要性为注意力头分配更大预算。代码已开源。
正文 · AI 翻译
作者：Peiliang Cai、Evelyn Zhang、Jiacheng Liu、Hao Lin、Ruiqi Zhang、Weile Mo、Yue Ma、Shikang Zheng、Jiehang Huang、Dongrui Liu、Linfeng Zhang
摘要：自回归视频扩散的最新进展使顺序与流式视频生成成为可能。然而，长时程生成需要越来越大的 KV 缓存，因此在不牺牲质量的前提下实现高效压缩颇具挑战。现有方法大多基于注意力分数选择历史帧，但其上下文决策仍较为粗糙。当同一块中生成多帧时，这些方法往往对整个块采用共享的历史选择，仅依据注意力对历史帧打分，并以统一方式或基于注意力模式启发式地为各注意力头分配预算，而非显式估计各头的重要性。我们表明，同一生成块内的不同帧可能依赖不同的历史帧；同一历史帧随着其与当前帧的相对时间距离变化，会获得不同的注意力分数；掩蔽不同的注意力头会导致不等的生成退化。受这些发现启发，我们提出 Focused Forcing，一种无需训练的 KV 选择方法，它沿生成帧和注意力头两个维度聚焦缓存历史。对于每个生成帧，Focused Forcing 通过结合注意力分数与历史帧的多样性分数，保留最相关且最具区分度的历史帧，同时为估计重要性更高的注意力头分配更大的预算。在多种自回归生成范式下，Focused Forcing 无需训练即可实现最高 1.48 倍的端到端加速，同时提升视觉质量和文本对齐。我们的代码可在 此 https URL 获取。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2605.18346 [cs.CV] |
| （或此版本的 arXiv:2605.18346v2 [cs.CV]） | |
| https://doi.org/10.48550/arXiv.2605.18346 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Peiliang Cai [查看邮箱]
[v1]
2026年5月18日星期一 12:58:13 UTC（9,137 KB）
[v2]
2026年10月29日星期四 11:32:02 UTC（9,130 KB）
来源：arXiv cs.AI · arxiv.org