跳到正文
RadarAI· X:Greg Brockman (@gdb)·· 1 天前AI 评分58

OpenAI 启动首轮嵌入式评估,邀外部专家审查模型安全

OpenAI 启动首轮嵌入式评估,邀请外部专家审查模型安全

AI 导读

OpenAI 启动首轮嵌入式评估,与 Apollo Research、METR、TransluceAI 和 GoodfireAI 合作,让外部专家深入接触其内部模型与系统,调查对齐问题并测试安全防护措施。

正文 · AI 翻译

Greg Brockman· @gdb · X·2026-11-17 00:48· 1 小时前AI 评分62

AI 导读

OpenAI 宣布启动首轮嵌入式评估(embedded assessments),与 Apollo Research、METR、TransluceAI 和 GoodfireAI 合作,让外部专家深入接触其内部模型与系统,调查对齐问题并测试安全防护措施。Greg Brockman 转发了这一公告,评估旨在为 OpenAI 识别和管理系统风险的方式带来独立审视,详情见 openai.com/index/our-first-phase-of-embedded-assessments/。

正文 · 原文

启动我们的首轮嵌入式评估:

引用OpenAI@OpenAI

我们正与 @ApolloResearch、@METR_Evals、@TransluceAI 和 @GoodfireAI 合作开展嵌入式评估:让外部专家深入接触我们的内部模型与系统,以调查对齐问题并测试我们的安全防护措施。

这些评估建立在我们持续开展的对齐与安全研究之上,为外界独立审视我们识别和管理系统风险的方式提供了机会。

openai.com/index/our-first-ph…

在 X 查看被引用的帖子

来源:Greg Brockman · x.com

事件后续 · 1

查看事件全部

来源:RadarAI · aihot.news