arXiv cs.AI· Jungseob Lee, Seongtae Hong, Dongyub Jude Lee, Chanjun Park, Jaehyung Seo, Sugyeong Eo, Heuiseok Lim·· 10 天前AI 评分27
GLANCE：面向视觉语言模型无损推测解码的一次性块草拟
Vision Is Not Overhead: One-Pass Block Drafting for Lossless Speculative Decoding in Vision-Language Models
AI 导读
GLANCE 是一种一次性块草拟器，可在不修改 VLM 目标模型的前提下实现无损推测解码，其块扩散头在目标模型已融合的视觉-语言状态上单次前向草拟整个块，目标模型一次验证宽候选树并提交其贪心输出。
正文 · AI 翻译
摘要：投机解码能在不改变输出的情况下加速生成，但在视觉语言模型（VLM）上，一个自我强化的循环阻碍了它。由于自回归草稿模型每生成一个草稿 token 都要进行一次串行前向传播，它必须保持较小规模，且难以在每次传播时都关注图像。因此，先前的工作会压缩或隐藏图像，导致草稿模型在图像所决定的文本上表现最弱。我们提出 GLANCE，一种单次前向的块草稿模型，可在未经修改的 VLM 目标模型上打破这一循环。其块扩散头在目标模型已融合的视觉语言状态上，通过一次前向传播草拟整个块，无论草稿多深，都只读取一次多模态上下文。目标模型在一次传播中验证一个宽候选树，并精确提交其贪心输出。在一个固定轮次预算的生产引擎中，GLANCE 的解码速度最高可达自回归解码的 3.05 倍，并在平均表现上超过生产级 EAGLE3-VL 头，在接地任务上约高出 11%。一个熵定律解释了草稿何时有效，并预测出接地任务上最长的被接受块，因为在这些任务中目标模型的下一 token 熵最低。我们的代码可在 此 https URL 获取。
| 评论： | 21 页，8 幅图，16 张表。代码：此 https URL |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2609.00355 [cs.AI] |
| （或 arXiv:2609.00355v3 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.00355 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jungseob Lee [查看电子邮件]
[v1]
2026 年 8 月 31 日星期一 20:50:35 UTC（729 KB）
[v2]
2026 年 9 月 29 日星期二 04:15:09 UTC（610 KB）
[v3]
2026 年 10 月 6 日星期二 14:49:05 UTC（473 KB）
来源：arXiv cs.AI · arxiv.org