跳到正文
RadarAI· The Decoder:AI News(RSS)·· 9 小时前AI 评分71

METR 警告 AI 能力提升快于专家可靠评估新系统安全性的速度

AI 导读

AI 研究机构 METR 发布 2026 年 11 月 AI 能力测量更新,警告现有公开数据不足以排除未来几年 AI 研究急剧加速的可能,这可能使人类无法有效理解和应对新 AI 系统的灾难性风险。

正文 · AI 翻译

The Decoder:AI News· Matthias Bastian·2026-11-22 21:00· 1 小时前AI 评分65

METR 警告:AI 进步速度已超过专家可靠测试新系统安全性的能力

AI 导读

AI 研究机构 METR 发布 2026 年 11 月 AI 能力测量更新,警告现有公开数据不足以排除未来几年 AI 研究急剧加速的可能,可能使人类无法有效理解和应对新 AI 系统的灾难性风险。

正文 · 原文

AI 模型在 AI 研究任务上的能力正快速提升,也越来越难以衡量。 据 AI 研究机构 METR 称,现有公开数据不足以排除未来几年 AI 研究急剧加速的可能。该组织警告,这可能会使人类无法“有意义地理解、评估并应对新 AI 系统带来的灾难性风险”。

METR 发现,在定义明确、有直接反馈的编程和计算任务上,这些模型大多数时候已能胜过经验丰富的人类专业人士,不过它们尚未超越由顶尖专家组成的大型团队。对于人类耗时更长的任务,模型能处理的任务时长每 3.6 个月翻一番。对 METR 数据的简单外推显示,到 2027 年 7 月,它们在最长的 200 小时任务上成功率将达到 50%。

METR 的分析显示,领先 AI 模型的能力稳步上升,直至 Opus 5.5 和 GPT-6 Astra。| 图片:METR

METR 表示,这些系统仍难以应对缺乏即时反馈、需要真正判断的开放式问题,也难以应对难以复现用于训练的情境。该组织还警告,常见、易于运行的测试可能高估模型在真实使用中的表现,因为开发者是在非常相似的测试环境中训练它们的。

来源:The Decoder:AI News · the-decoder.com

事件后续 · 1

查看事件全部

来源:RadarAI · aihot.news