arXiv cs.AI· Xiaolong Xu, Hao Jiang, Bo Jiang, Zhiwen Deng, Ningyuan Sun, Bingzhou Chen, Jin Chen, Chenxing Wei·· 3 天前AI 评分31
Diff Diffusion:用扩散模型预测编辑路径实现高效代码编辑
Diff Diffusion: Predicting Edit Paths with Diffusion Models for Efficient Code Editing
AI 导读
Diff Diffusion 是一个受扩散模型启发的 LLM 框架,将去噪过程表示为结构化编辑操作,从原始代码片段预测到修改后形式的编辑路径,从而把计算集中在改动区域。
正文 · AI 翻译
摘要:扩散大语言模型(dLLM)在代码生成方面颇具吸引力,因为它们可以并行更新许多 token,但许多模型是针对序列合成而非编辑预测进行优化的。这一设定与现代 AI 辅助 IDE 匹配不佳,因为编辑预测必须从最近的编辑、当前文件和光标局部上下文中推断出下一处代码更改。此类更改通常稀疏,并保留大部分源 token,因此重新生成整个代码片段会浪费计算。我们提出 Diff Diffusion,一种受扩散启发的代码编辑 LLM 框架,用于预测从原始代码片段到其修订形式之间的编辑路径。Diff Diffusion 将去噪表示为结构化编辑操作,并将这一表述与多阶段训练和高效并行解码相结合。通过将计算集中在更改区域,Diff Diffusion 支持准确的低延迟编辑和多位置并行修改。在公开的编辑补全基准、编辑预测评估和在线验证中,Diff Diffusion 与自回归基线持平或领先,同时在公开编辑补全基准上实现 2.78 倍的推理加速,并在生产环境中将 P50 模型延迟降低 39.0%。这项工作为需要高精度和低延迟的 AI 应用提供了新的建模视角。
| 评论: | 15 页,3 幅图,6 张表。被 NeurIPS 2026 扩散语言模型研讨会:基础、效率与推理接收 |
| 主题: | 软件工程(cs.SE);人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.17831 [cs.SE] |
| (或本版本使用 arXiv:2610.17831v1 [cs.SE]) | |
| https://doi.org/10.48550/arXiv.2610.17831 arXiv 颁发的 DOI,通过 DataCite(待注册) |
提交历史
来自:Hao Jiang [查看电子邮件]
[v1]
2026 年 10 月 13 日星期二 06:49:52 UTC(1,387 KB)
来源:arXiv cs.AI · arxiv.org