跳到正文
arXiv cs.AI· Xiaolong Xu, Hao Jiang, Bo Jiang, Zhiwen Deng, Ningyuan Sun, Bingzhou Chen, Jin Chen, Chenxing Wei·· 3 天前AI 评分31

Diff Diffusion:用扩散模型预测编辑路径实现高效代码编辑

Diff Diffusion: Predicting Edit Paths with Diffusion Models for Efficient Code Editing

AI 导读

Diff Diffusion 是一个受扩散模型启发的 LLM 框架,将去噪过程表示为结构化编辑操作,从原始代码片段预测到修改后形式的编辑路径,从而把计算集中在改动区域。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:扩散大语言模型(dLLM)在代码生成方面颇具吸引力,因为它们可以并行更新许多 token,但许多模型是针对序列合成而非编辑预测进行优化的。这一设定与现代 AI 辅助 IDE 匹配不佳,因为编辑预测必须从最近的编辑、当前文件和光标局部上下文中推断出下一处代码更改。此类更改通常稀疏,并保留大部分源 token,因此重新生成整个代码片段会浪费计算。我们提出 Diff Diffusion,一种受扩散启发的代码编辑 LLM 框架,用于预测从原始代码片段到其修订形式之间的编辑路径。Diff Diffusion 将去噪表示为结构化编辑操作,并将这一表述与多阶段训练和高效并行解码相结合。通过将计算集中在更改区域,Diff Diffusion 支持准确的低延迟编辑和多位置并行修改。在公开的编辑补全基准、编辑预测评估和在线验证中,Diff Diffusion 与自回归基线持平或领先,同时在公开编辑补全基准上实现 2.78 倍的推理加速,并在生产环境中将 P50 模型延迟降低 39.0%。这项工作为需要高精度和低延迟的 AI 应用提供了新的建模视角。
评论: 15 页,3 幅图,6 张表。被 NeurIPS 2026 扩散语言模型研讨会:基础、效率与推理接收
主题: 软件工程(cs.SE);人工智能(cs.AI);计算与语言(cs.CL)
引用为: arXiv:2610.17831 [cs.SE]
  (或本版本使用 arXiv:2610.17831v1 [cs.SE])
  https://doi.org/10.48550/arXiv.2610.17831

arXiv 颁发的 DOI,通过 DataCite(待注册)

提交历史

来自:Hao Jiang [查看电子邮件]
[v1] 2026 年 10 月 13 日星期二 06:49:52 UTC(1,387 KB)

来源:arXiv cs.AI · arxiv.org