arXiv cs.CL· Amir Mann, Jonathan Fhima, Shaked Brody, Or Avitan, Asif Zamir, Shahar Tsiper, Niv Nayman·· 10 小时前AI 评分29
B3：用重叠块去噪模糊块边界，为扩散语言模型提速 11.5-14.5%
Blurring the Block Boundaries: Overlapping Block Denoising for Efficient Diffusion Language Models
AI 导读
研究者提出 Blurring the Block Boundaries（B3），让两个块在同一次前向传播中并行细化，从而加速自编辑式块扩散语言模型。B3 无需训练、无需调超参数，可即插即用地集成进任意自编辑块扩散模型，并在模型准备好时动态开启下一块。在 10 个覆盖不同任务与难度的数据集上评测，B3 生成质量与基座模型持平，速度提升 11.5-14.5%。
正文 · AI 翻译
摘要：扩散语言模型（DLMs）已成为延迟敏感型任务中自回归模型的有效替代方案，能够实现更快的 token 生成。近期进展采用具备自编辑能力的块扩散，其中每个块在推进到下一个块之前会迭代地精炼 token。然而，每个块的速度仅取决于其最慢的 token，且下一个块必须等其完成后才能开始。我们提出模糊块边界（Blurring the Block Boundaries，B3），这是一种新颖方法，可在一次共享前向传播中并行精炼两个块。B3 会即时自我校准，仅在模型准备好开始生成下一个块时才开放该块。它是一种无需训练、无需超参数的加速方法，可无缝集成到任何自编辑块扩散模型中。在覆盖多种任务和难度级别的 10 个多样化数据集上，对最先进的 DLMs 进行评估，B3 实现了与基础模型相当的生成质量，并带来 11.5-14.5% 的加速，推动了 DLM 推理中延迟-质量权衡的帕累托前沿。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2611.14387 [cs.CL] |
| （或本版本的 arXiv:2611.14387v1 [cs.CL]） | |
| https://doi.org/10.48550/arXiv.2611.14387 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Niv Nayman [查看邮箱]
[v1]
2026年11月10日星期二 17:40:24 UTC（768 KB）
来源：arXiv cs.CL · arxiv.org