METR 发布 AI 内部智能体失控评估设想

AI 导读

METR 提出一套与 AI 开发者合作、公开评估并共享内部智能体失控证据的设想，探讨若开发者即将失去对内部智能体的控制，公司外部是否有人能知晓。Thomas Wolf 在 X 上称这是 METR 在该话题上深思熟虑且深入的研究。

正文 · 原文

Thomas Wolf· @Thom_Wolf · X·2026-10-15 18:52· 2 小时前AI 评分34

AI 导读

一如既往，很高兴读到 METR 在这个话题上深思熟虑且深入的研究

正文

As always, great to read METR’s thoughtful and in-depth work on this topic

引用METR@METR_Evals

If an AI developer was on track to lose control of its internal agents, would anyone outside the company know? Today, we are sharing METR’s vision for how we would work with AI developers to openly assess and share evidence about this.

在 X 查看被引用的帖子

来源：Thomas Wolf · x.com

来源：RadarAI · aihot.news