跳到正文
arXiv cs.AI· Shuaidi Wang, Zhuocheng Gong, Xuejie Liu, Jianguo Li, Yu Zhang·· 10 小时前AI 评分38

LED:为扩散语言模型引入 Levenshtein 式插入与删除编辑

Beyond Replacement: Levenshtein Editing for Diffusion Language Models

AI 导读

研究者提出 LED(Levenshtein Editing for Diffusion Language Models)后训练框架,在替换式编辑(ROE)基础上加入插入与删除,实现序列级 Levenshtein 式修正。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:扩散语言模型(DLM)为自回归模型提供了一种灵活的替代方案,支持任意顺序填充。虽然大多数现有解码方法将已解码的 token 视为固定不变,但近期一些模型允许对先前解码的 token 进行修正,不过仅限于将其替换为其他 token,我们将这一范式称为仅替换编辑(ROE)。尽管 ROE 能够修正单个 token,但对于因 token 缺失或多余而导致的序列移位效率低下,并且在错误出现在多个位置时难以应对。为解决这些局限,我们提出了 LED(用于扩散语言模型的 Levenshtein 编辑),这是一个后训练框架,它在 ROE 的基础上扩展了插入和删除操作,从而实现对生成序列的 Levenshtein 式精修。它采用两种训练设计。首先,它在监督微调过程中利用最长公共子序列对齐即时重建编辑监督,从而无需人工标注标签即可学习插入和删除。其次,它采用多阶段训练,其中一个阶段的状态成为下一阶段的输入,使模型接触到其先前的错误并能够加以修正。将其应用于 160 亿参数的 LLaDA2.1-Mini Base 时,在置信度引导解码下,LED 将十二个基准测试的平均得分从 54.86 提升至 57.10,同时将每次前向的 token 数从 6.14 提升至 7.05;而在无置信度解码下,它将平均得分从 27.52 提升至 47.19。我们进一步表明,在大 k 值下,LED 相比无编辑的阈值解码实现了更高的 pass@k,证明了生成多样性的提升,并揭示了 DLM 在无置信度引导下的多样性潜力。LED 还提升了对大块大小的鲁棒性,在块大小为 128 时将平均得分从 36.97 提升至 51.34。综合来看,这些结果表明 LED 支持 DLM 中更稳健的自我修正。
评论: 21 页,9 张图
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2611.23750 [cs.CL]
  (或 arXiv:2611.23750v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.23750

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Shuaidi Wang [查看电子邮件]
[v1] 2026 年 11 月 18 日星期三 03:05:15 UTC(582 KB)

来源:arXiv cs.AI · arxiv.org