跳到正文
arXiv cs.AI· Christoph Daxerer, Johann Glock, Christian Macho, Rudolf Ramler, Martin Pinzger, Josef Pichler·· 12 小时前AI 评分38

编码智能体还需要调试器吗?前沿模型在准确率天花板下的故障定位研究

Do Coding Agents Still Need a Debugger? Frontier-Model-Based Fault Localization at the Accuracy Ceiling

AI 导读

基于 Sol 6.1、Luna 6 和 Qwen 3.8 的编码智能体在 144 个 LeetCodeDataset 解法注入的 610 个单行故障上,无工具时即可定位原始程序 98.2%–99.9%、变换后程序 96.7%–99.9% 的故障。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:背景:要定位故障,编码智能体可以仅从源代码进行推理,也可以借助调试器辅助,通过运行程序并在交互式调试器中单步执行。虽然早期的智能体在静态执行跟踪和调试器操作方面表现不佳,但前沿 LLM 在这两方面都有所改进。目标:我们评估编码智能体在没有工具的情况下,对原始程序和变换后程序的故障定位准确度,调试器辅助能在多大程度上提高准确度以及代价如何,以及智能体在可选情况下如何使用调试器。方法:我们向 144 个 LeetCodeDataset 解决方案中植入 610 个单行故障,并用五种保持行为的变换配方重写每个故障程序。基于 Sol 6.1、Luna 6 和 Qwen 3.8 的智能体在无、可选或鼓励调试器辅助的条件下定位每个故障。结果:在没有工具的情况下,智能体在原始程序中定位了 98.2% 至 99.9% 的故障,在变换后程序中定位了 96.7% 至 99.9% 的故障,准确度损失主要出现在配方重构了循环和条件的地方。鼓励辅助消除了 Luna 6 和 Qwen 3.8 剩余变换错误的 63% 和 61%(分别提高 2.1 和 1.3 个百分点),但 token 使用量是原来的 14.7 至 27.0 倍,而 Sol 6.1 保持在 99.9%。在可选辅助下,Luna 6 和 Qwen 3.8 仍分别获得 +1.5 和 +1.3 个百分点的提升,尽管智能体仅在 0.2% 至 6.2% 的运行中使用了交互式调试器。结论:在简短、精确指定的程序上,当前的编码智能体仅凭源代码就能定位几乎所有故障,而调试器辅助能消除剩余的大多数错误。在可以选择的情况下,智能体执行程序的频率远高于单步执行,但仍保留了大部分收益。
评论: 12 页,3 幅图,5 张表
主题: 软件工程(cs.SE);人工智能(cs.AI)
引用为: arXiv:2610.36015 [cs.SE]
  (或 arXiv:2610.36015v1 [cs.SE] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.36015

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Johann Glock [查看电子邮件]
[v1] 2026 年 10 月 26 日星期一 17:20:31 UTC(84 KB)

来源:arXiv cs.AI · arxiv.org