跳到正文
RadarAI· X:Cognition (@cognition)·· 2 小时前AI 评分38

Cognition 发布 FrontierCode 2.0 编码基准,最高分模型仅得 45%

Cognition 发布 FrontierCode 2.0 编码基准

AI 导读

Cognition 发布 FrontierCode 2.0 编码基准,用于衡量模型能否超越规格要求,而非仅写出符合规格的代码。新版本任务更多样、范围更大、合并标准更高,并引入刻意模糊的欠指定提示词考察模型判断力。该基准远未饱和,最高分模型仅得 45%。

正文 · AI 翻译

Cognition· @cognition · X·2026-10-28 01:24· 1 小时前AI 评分37

AI 导读

Cognition 推出 FrontierCode 2.0 编码基准,衡量模型能否超越规格要求,任务更多样、范围更大、合并标准更高,并引入刻意模糊的欠指定提示词考察模型判断力。该基准远未饱和,最高分模型仅得 45%。

正文 · 原文

推出 FrontierCode 2.0:我们的新编码基准,用于衡量模型超越规格要求的能力。

大多数编码评测衡量的是模型编写符合规格的代码的能力。借助 FrontierCode 1.0,我们提出了一个新问题:你真的会合并这个 PR 吗?

FrontierCode 2.0 由更多样化的任务组成,具有更大的范围和更高的可合并性标准。我们现在要问的是:不仅你会合并这个 PR 吗,而且你应该合并吗?

FrontierCode 2.0 的一个关键特性是欠指定的提示词。提示词并非包含每一项工程决策,而是刻意模糊,给模型留出展示其判断力的空间。

结果是一个远未饱和的基准,最高分模型仅得 45%。

来源:Cognition · x.com

来源:RadarAI · aihot.news