长程编码基准Multi-step SWE发布:最强模型解决率18.5%
热点事件持续更新
长程编码基准Multi-step SWE发布:最强模型解决率18.5%
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Xiangkai Zeng等研究者提出并公开发布长程软件工程基准Multi-step SWE,用于检验编码智能体能否在长周期内持续构建自己的代码。基准包含69个任务,每个任务由5至15个相互依赖的步骤组成,每一步都基于智能体此前写出的代码继续扩展或优化,覆盖四类工程工作和九种语言,既有从零构建,也有基于现有开源代码库的任务。 在九个前沿模型中,最强模型的解决率仅为18.5%,69个任务中有38个没有任何模型解出。
AI 根据报道生成 · 1 小时前更新
最新进展11月6日 13:00
Multi-step SWE:编码智能体能否在长周期内持续构建自己的代码报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv cs.AIMulti-step SWE:编码智能体能否在长周期内持续构建自己的代码
研究者提出 Multi-step SWE 长周期基准,包含 69 个软件工程任务,每个任务由 5-15 个相互依赖的步骤组成,每一步都基于智能体此前写出的代码继续扩展或优化。在九个前沿模型中,最强模型的解决率仅为 18.5%,69 个任务中有 38 个没有任何模型解出。任务覆盖四类工程工作和九种语言,既包含从零构建,也包含基于现有开源代码库的任务。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。