跳到正文
热点事件持续更新

长程编码基准Multi-step SWE发布:最强模型解决率18.5%

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Xiangkai Zeng等研究者提出并公开发布长程软件工程基准Multi-step SWE,用于检验编码智能体能否在长周期内持续构建自己的代码。基准包含69个任务,每个任务由5至15个相互依赖的步骤组成,每一步都基于智能体此前写出的代码继续扩展或优化,覆盖四类工程工作和九种语言,既有从零构建,也有基于现有开源代码库的任务。 在九个前沿模型中,最强模型的解决率仅为18.5%,69个任务中有38个没有任何模型解出。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv cs.AI
    Multi-step SWE:编码智能体能否在长周期内持续构建自己的代码

    研究者提出 Multi-step SWE 长周期基准,包含 69 个软件工程任务,每个任务由 5-15 个相互依赖的步骤组成,每一步都基于智能体此前写出的代码继续扩展或优化。在九个前沿模型中,最强模型的解决率仅为 18.5%,69 个任务中有 38 个没有任何模型解出。任务覆盖四类工程工作和九种语言,既包含从零构建,也包含基于现有开源代码库的任务。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。