跳到正文
arXiv cs.AI· Lo Gullstrand Heander, Markus Borg, Emma S\"oderberg, Christofer Rydenf\"alt·· 2 天前AI 评分26

CodeHealth 能否预测智能体代码审查的 token 成本:一项针对 465 个智能体编写 PR 的预注册研究

CodeHealth Predicts the Token Cost of Agentic Code Review: A Pre-Registered Study of 465 Agent-Authored Pull Requests

AI 导读

一项预注册研究用 465 个智能体编写的 PR 测试 CodeHealth 能否预测多智能体代码审查的 token 成本,结果显示三个 LLM 的 CodeHealth 系数均为负,每提高 1 点 CodeHealth 对应 token 成本降低 3.5% 至 6.1%。该关联与 PR 规模无关,且调整被评分文件大小后关联消失,研究者将其解释为文件大小的中介效应。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:背景:组织越来越多地将代码审查委托给按 token 计费的多智能体大语言模型(LLM)流水线。低代码质量会增加人工维护工作量,但其对智能体审查成本的影响尚未得到测量。
目标:我们检验基线 CodeHealth 是否能预测智能体审查与修复的 token 成本,且该预测能力超出拉取请求(PR)足迹。
方法:在一项预注册的观察性研究中,我们从 AIDev 中 246 个仓库中抽取了 465 个智能体编写的 PR,在仓库上限下按 CodeHealth 和足迹联合分层。一条冻结的五智能体审查与修复流水线使用三种不同的 LLM 处理每个 PR。针对每种 LLM,我们拟合了一个混合模型,以 log token 为因变量,CodeHealth 和 log PR 足迹为自变量,并包含仓库随机截距。
结果:对于所有三种 LLM,CodeHealth 系数均为负,95% CI 不包含零;CodeHealth 每增加一分,token 成本降低 3.5% 至 6.1%。CodeHealth 与 PR 足迹无关,因此 PR 大小不能解释该关联。三个注册气味中有两个预测了修复成本;批量修复后中位 CodeHealth 保持不变。探索性分析将该关联定位在审查阶段,在该阶段智能体对不健康代码迭代更多,但并未撰写更多评论。对评分文件大小的调整吸收了该关联,我们将其解释为文件大小的中介效应。
结论:一个针对人类可维护性校准的质量指标也能预测多智能体审查与修复的推理成本。该效应每分幅度不大,且并非由 PR 大小承载,因此当重构改变结构和文件大小,而不仅仅是分数时,重构案例也适用于智能体审查的代码。
数据可用性:此 https URL
Comments: 32 页,6 幅图,16 张表
Subjects: 软件工程(cs.SE);人工智能(cs.AI)
Cite as: arXiv:2610.21914 [cs.SE]
  (或 arXiv:2610.21914v1 [cs.SE] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.21914

由 DataCite 颁发的 arXiv DOI(待注册)

Submission history

来自:Lo Gullstrand Heander [查看电子邮件]
[v1] 2026 年 10 月 15 日星期四 14:00:33 UTC(162 KB)

来源:arXiv cs.AI · arxiv.org