跳到正文
arXiv·· 13 天前AI 评分24

D-Loop:用于投机解码的循环扩散草稿

D-Loop: Looped Diffusion Drafting for Speculative Decoding

AI 导读

D-Loop 提出用循环扩散草稿改进投机解码,解决块扩散中各位置只预测边缘分布、无法观察先前草稿 token 导致的草稿质量与接受长度受限问题。研究识别出相邻位置重复生成同一 token 的“重复陷阱”,并从理论与实验上分析其与草稿接受长度缩短的关联。

来源:arXiv · arxiv.org