RadarAI· X:Cognition (@cognition)·· 2 小时前AI 评分38
Cognition 发布 FrontierCode 2.0 编码基准,最高分模型仅得 45%
Cognition 发布 FrontierCode 2.0 编码基准
AI 导读
Cognition 发布 FrontierCode 2.0 编码基准,用于衡量模型能否超越规格要求,而非仅写出符合规格的代码。新版本任务更多样、范围更大、合并标准更高,并引入刻意模糊的欠指定提示词考察模型判断力。该基准远未饱和,最高分模型仅得 45%。
正文 · AI 翻译
Cognition· @cognition · X·2026-10-28 01:24· 1 小时前AI 评分37
AI 导读
Cognition 推出 FrontierCode 2.0 编码基准,衡量模型能否超越规格要求,任务更多样、范围更大、合并标准更高,并引入刻意模糊的欠指定提示词考察模型判断力。该基准远未饱和,最高分模型仅得 45%。
正文 · 原文
推出 FrontierCode 2.0:我们的新编码基准,用于衡量模型超越规格要求的能力。
大多数编码评测衡量的是模型编写符合规格的代码的能力。借助 FrontierCode 1.0,我们提出了一个新问题:你真的会合并这个 PR 吗?
FrontierCode 2.0 由更多样化的任务组成,具有更大的范围和更高的可合并性标准。我们现在要问的是:不仅你会合并这个 PR 吗,而且你应该合并吗?
FrontierCode 2.0 的一个关键特性是欠指定的提示词。提示词并非包含每一项工程决策,而是刻意模糊,给模型留出展示其判断力的空间。
结果是一个远未饱和的基准,最高分模型仅得 45%。
来源:Cognition · x.com
来源:RadarAI · aihot.news