跳到正文
The Decoder· Maximilian Schreiner·· 18 小时前同新闻AI 评分80

Anthropic 的 Fable 5.2 在真实自由职业任务中完成率达 41%,一年前仅 2.5%

Anthropic's Fable 5.2 completes 41 percent of real freelance jobs, up from 2.5 percent a year ago

AI 导读

Scale Labs 的 RLI 基准显示,Anthropic 的 Fable 5.2 能完成 41.3% 的真实自由职业任务,而一年前榜首 Manus 仅 2.5%,今年 7 月 Fable 5 约为 16%。

同一新闻,精选展示《Anthropic Fable 5.2 在 Remote Labor Index 上以 41.3% 领跑真实自由职业任务》

正文 · AI 翻译

这一进展显示出 AI 智能体在实际工作任务上的追赶速度有多快。该基准测试大约一年前推出时,当时最强的系统 Manus 仅完成了 2.5% 的任务。而 Fable 5.2 现在完成的专业工作数量是它的 16 倍以上。

与最近的测量结果相比,这一跃升幅度同样很大。今年7月,同一家族中较旧的模型 Fable 5 仍以约16%的得分领先。这一成绩本身已是重大进步:最好的智能体在八个月内将以专业质量完成的工作占比提高了四倍多。四个月后,Fable 5.2 达到41.3%。这大约是 Fable 5 七月得分的两倍半。其直接前代 Fable 5.1 也远远落后,得分略低于18%,而 Fable 5.2 完成的工作量是其两倍多。

Fable 5.2 拉开与对手的差距。| 图片:Scale Labs

当前排行榜上的下一个位置属于 Anthropic 的 Opus 5.5,为 21.25%,以及 OpenAI 的 GPT 6 Astra,为 20.83%。Fable 5.2 的成功率几乎是市场上次优系统的两倍。谷歌在测试中最强的模型 Gemini Argon 4 以 17.08% 位列第五,而 GPT-5.2 或 Gemini 3 Pro 等较旧模型则低于 3%。

Fable 5.2 在 3D 模型、音频和建筑领域取得突破

Scale Labs 在 X 上表示,Fable 5.2 进步最大的领域是音频和音乐编辑、建筑与室内空间设计,以及 3D 模型创建。该智能体还能处理此前排名靠前的模型经常失败的长期复杂项目。

Fable 5.2 成功完成的任务中,有近 50 项是测试中此前没有任何 AI 智能体解决过的工作。Scale Labs 表示,该 AI 在其他任务上仍几乎无能为力,尤其是工业产品设计和动画。研究人员称,AI 智能体在测试中失败时,通常交付的是业余水准的作品、不完整的结果、损坏的文件或自相矛盾的设计。

价值 144,000 美元的真实工作

与通常只检查孤立技能的传统 AI 测试不同,RLI 研究论文涵盖完整的工作任务。该数据集包含来自 Upwork 平台上 358 位经过验证的专业人士的 240 个已完成项目。这些工作合计价值约 144,000 美元。

单个项目平均花费 632.60 美元,人类自由职业者平均需要近 29 小时完成。任务范围从视频编辑到 CAD 设计、游戏开发和数据分析。为了完成这些工作,AI 智能体可以使用一个虚拟工作区,其中包含 Blender、GIMP 或 Audacity 等常用专业软件,以及用于图像、音频和视频生成的专用 AI 工具。

一个示例任务:创建平面图、家具布置方案和照片级逼真的浴室渲染图。图片展示的是较旧模型的结果。该帖子尚未更新。| 图片:Safe.ai

经过训练的人类专家会手动检查 AI 智能体是否成功完成了工作。他们在相关专业软件中打开提交的文件,并将 AI 的输出与人类自由职业者交付的工作直接比较。CAIS 尝试用另一个 AI 来自动化这项劳动密集型的审查,但迄今未能成功。由于 AI 审查员自己几乎无法操作专业软件,它们会被那些表面光鲜但技术上存在缺陷的提交内容所蒙蔽,从而对模型评分过于宽松。

来源:The Decoder · the-decoder.com