arXiv cs.CL· Lize Shao, Zichen Xie, Zhizhen Chen, Zhe Zeng, Wenxi Wang·· 11 小时前AI 评分38
SDDC：面向代码生成的自分解扩散框架
Self-Decomposing Diffusion for Code Generation
AI 导读
研究者提出 Self-Decomposing Diffusion for Code（SDDC），先让扩散模型生成描述程序分解与单元间依赖的契约，再据此并行实现各单元。在五个基准和两个 7B 扩散骨干上，SDDC 将 pass@1 最高提升 31.1 个百分点，解码速度比基座模型快 7.5–13.7 倍，并以更低延迟超过微调基线最多 23.5 个点。
正文 · AI 翻译
摘要：扩散语言模型（DLMs）正逐渐成为代码生成领域一种颇具前景的范式，有望实现快速、并行的解码。然而，生成复杂程序仍然具有挑战性，因为其相互依赖的组件必须保持一致的接口、数据流和共享假设。激进的并行解码可能破坏这些依赖关系并损害程序的正确性，而保守的解码则会牺牲效率。为解决这一权衡问题，我们提出在实现之前进行规划式程序分解，以在并行生成过程中协调相互依赖的单元。我们引入了用于代码的自分解扩散模型（SDDC），这是一个新颖的框架，能够完全通过扩散过程分解复杂程序并并行实现其各个单元。SDDC 首先生成一个契约，明确程序的分解方式及单元间的依赖关系，然后利用该契约指导协调一致的并行实现。在五个基准测试和两个 7B 扩散骨干模型上，SDDC 显著改善了准确率与延迟之间的权衡，将 pass@1 最多提升 31.1 个百分点，同时解码速度比基础模型快 7.5–13.7$\times$，并以更低的延迟超越微调基线最多 23.5 个百分点。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.27600 [cs.CL] |
| （或 arXiv:2610.27600v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27600 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Lize Shao [查看电子邮件]
[v1]
2026年10月20日星期二 04:07:10 UTC（153 KB）
来源：arXiv cs.CL · arxiv.org