arXiv cs.CL· Yu Tian·· 10 小时前AI 评分31
REAL Loss：为投机解码优化真实期望接受长度
REAL Loss: Optimizing Real Expected Acceptance Length for Speculative Decoding
AI 导读
研究提出 REAL Loss，一种直接优化投机解码期望接受长度（EAL）的训练损失，通过路径权重实现无偏估计并用 Rao-Blackwellization 降低方差。
正文 · AI 翻译
摘要：推测解码通过让草稿模型提出多个 token，由目标模型在一次前向中验证，从而加速 LLM 推理。其加速效果由期望接受长度（EAL）决定，但交叉熵、KL 散度和全变差等标准训练目标只关注分布匹配或单步重叠。近期研究转而提出块级训练目标，旨在直接优化 EAL。然而，这些目标仍只是 EAL 的替代量，而非精确表述。例如，部分方法在目标分布延续上对后续接受情况取平均，而非对由已接受 token 选出的验证分支取平均，从而引入协方差差距，可能使梯度方向反转。我们分析了这一差距，并推导出 REAL，一种真实的 EAL 训练损失，它使用路径权重进行无偏估计，并使用 Rao-Blackwellization 降低方差。在与 Qwen3.6-35B-A3B 目标模型和 Domino 草稿模型的受控损失级比较中，REAL 在 9 个任务子集和 5 个评估种子上，在概率化服务接受长度方面优于 WTV、VSD、DBLast 和静态 LK 基线。这些增益仅需更改训练损失，无需修改草稿模型架构或推理过程，证明了真实 EAL 训练的实用性。REAL 损失的参考实现见 此 https URL。
| 评论： | 19 页，10 幅图 |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2611.14399 [cs.LG] |
| （或 arXiv:2611.14399v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.14399 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yu Tian [查看电子邮件]
[v1]
2026 年 11 月 10 日星期二 17:45:12 UTC（503 KB）
来源：arXiv cs.CL · arxiv.org