arXiv cs.AI· Yunkai Zhan, Miaosen Chai, Shangshang Wang, Jike Zhong, Yuqing Yang, Deqing Fu, Serina Chang, Wang Bill Zhu·· 3 天前AI 评分37
PreciseCoder:超越单元测试奖励的忠实且可泛化调试
PreciseCoder: Faithful and Generalizable Debugging Beyond Unit-Test Rewards
AI 导读
PreciseCoder 通过为单元测试奖励增加语义验证的局部编辑信号,在 4B、9B、27B 模型上将平均编辑行数从 7-15 行降至 3 行,通过率与仅用单元测试训练持平。
正文 · AI 翻译
摘要:基于单元测试的强化学习(RL)是后训练代码模型的常见方法,但单元测试只关心最终程序是否通过。我们分析了这种仅依赖单元测试的奖励在调试过程中教会了模型什么,发现虽然它提高了通过率,但也教会模型进行更多编辑,并在本已正确的代码中臆造出 bug。我们提出了 PreciseCoder,一种训练算法,它在单元测试奖励之外增加了一个用于语义验证的局部化编辑的信号,该信号与更小的编辑量和更高的通过率相关。在 4B、9B 和 27B 模型上,PreciseCoder 将平均编辑行数从 7-15 行减少到 3 行,同时通过率与仅使用单元测试训练相当。仅在单行 bug 上训练的 PreciseCoder 可以泛化到仓库级程序修复,在那里它能以更小的补丁解决更多问题。其精确性还能从较弱模型迁移到较强模型:给定一个 9B PreciseCoder 模型的推理轨迹,GPT-5.6 Sol 和 Qwen3.8-Max 等前沿模型在无需额外训练的情况下,编辑精确度提升了 4.6-12.4 分。对思维轨迹的语言学分析表明,我们的奖励鼓励模型逐行推理、指出有 bug 的行,并形成一致的 bug 假设。
| 评论: | 29 页,14 张图 |
| 主题: | 软件工程(cs.SE);人工智能(cs.AI);计算与语言(cs.CL) |
| 引用为: | arXiv:2610.18755 [cs.SE] |
| (或 arXiv:2610.18755v1 [cs.SE] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.18755 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Yunkai Zhan [查看邮箱]
[v1]
2026 年 10 月 13 日星期二 17:19:10 UTC(694 KB)
来源:arXiv cs.AI · arxiv.org