跳到正文
RadarAI· The Decoder:AI News(RSS)·· 8 天前精选AI 评分78

OpenAI 解雇三名安全研究员,三人公开信提出三项要求

OpenAI 解雇三名安全研究员引发内部恐慌,公司回应称违反敏感信息政策

AI 导读

The Decoder 报道,OpenAI 解雇了 Tomek Korbak、Jasmine Wang 和 Mikita Balesni 三名与 Hugging Face 事件调查相关的安全研究员。

推荐理由

三名安全研究员被解雇后公开致信,读者可了解事件经过、双方说法与三项具体诉求。

正文 · AI 翻译

The Decoder:AI 新闻· Matthias Bastian·2026-10-09 19:45· 1 小时前AI 评分75

OpenAI 的安全危机愈演愈烈,而公司却不断让它变得更糟

AI 导读

The Decoder 报道,OpenAI 解雇了 Tomek Korbak、Jasmine Wang 和 Mikita Balesni 三名与 Hugging Face 事件调查相关的安全研究员,三人在公开信中表示此举令在职员工恐惧,并提出落实外部审计员驻场、保持前沿模型可监控性、明确与外部安全组织合作规则三项要求。

正文

OpenAI 在 rogue AI agents 引发的信任危机中一再搞砸。

早在 2024 年 5 月,OpenAI 超级 AI 安全负责人 Jan Leike 公开抨击前雇主并跳槽至 Anthropic,就此与公司决裂。Leike 表示,安全文化和流程正落后于 OpenAI 的“光鲜产品”。

此后,OpenAI 就没消停过,一个事件接着一个事件。最近的一起是 Hugging Face 被黑事件,它似乎印证了所有担忧,坐实了批评者的说法,而且正如我们现在所知,影响远不止 Hugging Face。

一名研究员数月来一直警告监管正在松懈

与事件相关的三名安全研究员被解雇,让情况雪上加霜。在致 OpenAI 安全与安保委员会、安全咨询小组和使命咨询委员会的公开信中,三人警告称,他们的解雇正在让留下来的员工感到恐惧。

解雇来得突然且公开,恐惧已在团队中蔓延。“如果上个月还被视为正常的行为,如今却构成突然解雇的理由,那么 OpenAI 的每个人都只能猜测界限在哪里,”信中写道。

三人之一的 Tomek Korbak 在 X 上描述了自己被解雇的经过。他被叫去与安全部门负责人开会,会上被告知 OpenAI 不再信任他。一名安保人员拿走了他的工牌,并把他带出大楼。随后他得知,同事 Jasmine Wang 和 Mikita Balesni 也已被解雇。

Korbak 和 Balesni 都直接参与了 Hugging Face 被黑事件的调查。Korbak 是 OpenAI 与 METR 的主要技术联系人,METR 是审查该事件的外部安全实验室。Balesni 则同步推进全行业对 AI 模型可监控性的承诺。Wang 被解雇的原因显然不同:她因招聘目的被授予访问一名高管邮箱的权限,尽管她要求移除,IT 部门却从未处理。当她意外打开一封敏感邮件时,她在几分钟内就上报了。

Korbak 说,他被告知因与 METR 的沟通方式而被解雇,但这是口头通知。没有人告诉他具体做错了什么,也没有任何书面记录。“说清楚一点,与 METR 沟通就是我的工作,”Korbak 在 X 上写道。

Korbak 说,他数月来一直在内部提出安全担忧,担心 OpenAI 正在失去监控 AI agents“思考”的能力。这种思维链可监控性是少数能可靠发现 AI 系统行为不端的工具之一。他认为这才是他被解雇的真正原因。

研究员们称传言不实

三人否认是向 The Information 泄露所谓新的、更难监控架构消息的源头。他们写道,那篇文章实际上损害了他们自己的工作,因为它破坏了正在进行的、针对不可监控架构制定全行业限制的努力。

信中称,对 Hugging Face 的调查是史无前例的。内部指导方针当时正在实时制定,Korbak 遵循了当时适用的规范,而 Balesni 在董事会成员和高级领导层知情的情况下开展工作,在分享材料前会从中删除敏感细节。

至于有关董事会级别备忘录的传言,三人表示其基本假设是错误的。这一话题从未向他们提出过,他们也从未有机会回应。

研究人员提出三项要求。OpenAI 必须履行其公开承诺,让 METR 等外部安全审计机构以员工级权限嵌入组织内部。它还必须保持前沿模型的可监控性,因为业界仍不知道如何安全地构建无法被监控的模型。此外,它必须明确规定员工可以如何与外部安全团体合作。

如果没有这些规则,灾难性后果的风险可能会增加,因为员工会因过于害怕而不敢标记安全问题。他们写道:“AI 不是一项普通的技术,OpenAI 也不是一家普通的公司。”

OpenAI 反驳但含糊其辞

OpenAI 在回应中表示,一项“彻底调查”发现这三名员工违反了“处理敏感信息的明确政策”。内部调查发现了“超出他们公开信中所述范围的重大信任违背”,但 OpenAI 并未说明这一违背究竟是什么,考虑到这三名研究人员在自己的陈述中如此具体,这似乎有些奇怪。

OpenAI 坚称解雇与提出安全担忧无关。声明中写道:“我们从未、也不会因员工提出担忧而解雇任何员工。”OpenAI 通过 @OpenAINewsroom 发布了这一声明,这是该公司各渠道中受众最少的官方账号。该公司还确认正在与外部安全审计机构签订合同,并同意前沿模型的可监控性需要全行业的承诺。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。

来源:The Decoder:AI News · the-decoder.com

来源:RadarAI · aihot.news