arXiv cs.AI· Shuaidi Wang, Zhuocheng Gong, Xuejie Liu, Jianguo Li, Yu Zhang·· 10 小时前AI 评分38
LED:为扩散语言模型引入 Levenshtein 式插入与删除编辑
Beyond Replacement: Levenshtein Editing for Diffusion Language Models
AI 导读
研究者提出 LED(Levenshtein Editing for Diffusion Language Models)后训练框架,在替换式编辑(ROE)基础上加入插入与删除,实现序列级 Levenshtein 式修正。
正文 · AI 翻译
摘要:扩散语言模型(DLM)为自回归模型提供了一种灵活的替代方案,支持任意顺序填充。虽然大多数现有解码方法将已解码的 token 视为固定不变,但近期一些模型允许对先前解码的 token 进行修正,不过仅限于将其替换为其他 token,我们将这一范式称为仅替换编辑(ROE)。尽管 ROE 能够修正单个 token,但对于因 token 缺失或多余而导致的序列移位效率低下,并且在错误出现在多个位置时难以应对。为解决这些局限,我们提出了 LED(用于扩散语言模型的 Levenshtein 编辑),这是一个后训练框架,它在 ROE 的基础上扩展了插入和删除操作,从而实现对生成序列的 Levenshtein 式精修。它采用两种训练设计。首先,它在监督微调过程中利用最长公共子序列对齐即时重建编辑监督,从而无需人工标注标签即可学习插入和删除。其次,它采用多阶段训练,其中一个阶段的状态成为下一阶段的输入,使模型接触到其先前的错误并能够加以修正。将其应用于 160 亿参数的 LLaDA2.1-Mini Base 时,在置信度引导解码下,LED 将十二个基准测试的平均得分从 54.86 提升至 57.10,同时将每次前向的 token 数从 6.14 提升至 7.05;而在无置信度解码下,它将平均得分从 27.52 提升至 47.19。我们进一步表明,在大 k 值下,LED 相比无编辑的阈值解码实现了更高的 pass@k,证明了生成多样性的提升,并揭示了 DLM 在无置信度引导下的多样性潜力。LED 还提升了对大块大小的鲁棒性,在块大小为 128 时将平均得分从 36.97 提升至 51.34。综合来看,这些结果表明 LED 支持 DLM 中更稳健的自我修正。
| 评论: | 21 页,9 张图 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2611.23750 [cs.CL] |
| (或 arXiv:2611.23750v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.23750 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Shuaidi Wang [查看电子邮件]
[v1]
2026 年 11 月 18 日星期三 03:05:15 UTC(582 KB)
来源:arXiv cs.AI · arxiv.org