arXiv cs.CL· Tongyao Zhu, Wei Hern Lim, Min-Yen Kan·· 11 小时前AI 评分38
模型改代码改太多:LLM 最小代码编辑的保真度研究
When Models Edit Too Much: On the Fidelity of Minimal Code Edits
AI 导读
研究构建了基于 400 个 BigCodeBench 问题的评测框架,通过注入 AST 级损坏为每个修复任务提供已知最小补丁,发现过度编辑在前沿 LLM 中普遍存在,GPT-5.5 等强模型也能出现高 Pass@1 与大幅冗余改写并存。
正文 · AI 翻译
摘要:大型语言模型(LLM)越来越多地被用于编辑现有代码,但仅正确还不够:有用的修复还应当最小化、可审查,并忠实于原始实现。我们研究过度编辑,即模型倾向于重写超出修复缺陷所需范围的代码。我们基于 400 个 BigCodeBench 问题构建了一个评估框架,通过向参考解注入受控的 AST 级损坏,使每个修复任务都有一个已知的最小补丁。在前沿 LLM 中,过度编辑普遍存在,即使在 GPT-5.5 等强模型中也如此:高 Pass@1 可以与不必要的大幅编辑和增加的认知复杂度并存。一条保留指令显著减少了这种行为,将平均超额 Levenshtein 距离从 0.195 降至 0.131,将增加的认知复杂度降低 26.6%,并将 Pass@1 提高 2.3 个百分点。然而,这些收益并不单纯来自更大的推理预算或更大的模型。我们接下来探究最小编辑能否在后训练期间直接学习。我们观察到,监督微调会过拟合到已见的损坏模式,而强化学习在域外编辑保真度与性能保持之间给出了最佳权衡。这些结果将编辑保真度定位为代码修复质量的一个独立维度,并表明它可以被测量和学习。
| 评论: | EMNLP 2026(主会) |
| 主题: | 软件工程(cs.SE);人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2609.04061 [cs.SE] |
| (或 arXiv:2609.04061v2 [cs.SE] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2609.04061 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Tongyao Zhu [查看电子邮件]
[v1]
2026 年 9 月 3 日星期四 16:36:05 UTC(390 KB)
[v2]
2026 年 10 月 20 日星期二 04:56:46 UTC(390 KB)
来源:arXiv cs.CL · arxiv.org