跳到正文
热点事件持续更新

PROBE基准:编码Agent找bug召回率低于21%

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

研究者 Marco Paina 等人发布 PROBE 基准,收录 20 个 GitHub 仓库 18 个月内修复的全部 2,457 个 bug,用于评估编程智能体发现 bug 的能力。 在该基准上,前沿模型的召回率均低于 21%、精确率低于 9%。更强的模型可将召回率从 8% 提升到 17%,但精确率没有改善。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.AI
    PROBE 基准:前沿编程智能体发现的 bug 与维护者修复的不同

    研究者推出 PROBE 基准,收录 20 个 GitHub 仓库 18 个月内修复的全部 2,457 个 bug,用于评估编程智能体发现 bug 的能力。前沿模型在该基准上召回率均低于 21%、精确率低于 9%,更强模型可将召回率从 8% 提升到 17%,但精确率没有改善。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。