OpenAI 解雇三名安全研究员，当事人发公开信提出三项要求

OpenAI 在处理其失控 AI 智能体引发的信任危机时一再失手。

早在 2024 年 5 月，OpenAI 超级 AI 安全负责人 Jan Leike 公开抨击前雇主并跳槽至 Anthropic，就此与公司决裂。Leike 表示，安全文化和流程正落后于 OpenAI 的“光鲜产品”。

此后，OpenAI 一直没能喘口气，一个事件接一个事件地踉跄前行。最近的一起是 Hugging Face 黑客事件，它似乎印证了所有担忧，坐实了批评者的说法，而且正如我们现在所知，其影响远超 Hugging Face。

一名研究员数月来一直警告监督正在松懈

与该事件相关的三名安全研究员被解雇，让情况雪上加霜。在致 OpenAI 安全与安保委员会、安全咨询小组和使命咨询委员会的公开信中，三人警告称，他们的被解雇正在让留下来的员工感到恐惧。

解雇来得突然且公开，恐惧已在团队中蔓延。“如果上个月还被视为正常的行为，如今却构成突然解雇的理由，那么 OpenAI 的每个人都不禁要猜测界限在哪里，”信中写道。

三人之一的 Tomek Korbak 在 X 上描述了自己被解雇的经过。他被叫去与安全部门负责人开会，会上被告知 OpenAI 不再信任他。一名安保人员拿走了他的工牌，并把他带出大楼。随后他得知，同事 Jasmine Wang 和 Mikita Balesni 也已被解雇。

Korbak 和 Balesni 都直接参与了 Hugging Face 黑客事件的调查。Korbak 担任 OpenAI 与 METR 的主要技术联系人，METR 是审查该事件的外部安全实验室。Balesni 则同步推进关于 AI 模型可监控性的行业范围承诺。Wang 被解雇的原因显然不同：她曾为招聘目的被授予访问一名高管电子邮箱的权限，尽管她要求移除，IT 部门却从未处理。当她无意中打开一封敏感邮件时，她在几分钟内就上报了。

Korbak 说，他被告知口头解雇的理由是他与 METR 的沟通方式。没有人告诉他究竟做错了什么，也没有任何书面记录。“需要明确的是，与 METR 沟通就是我的工作，”Korbak 在 X 上写道。

Korbak 说，他数月来一直在内部提出安全担忧，担心 OpenAI 正在失去监控 AI 智能体“思考”的能力。这种思维链可监控性是少数可靠工具之一，可用于发现 AI 系统的不当行为。他认为这才是他被解雇的真正原因。

研究员们称传言不实

三人否认是 The Information 一篇报道的泄密来源，该报道称存在据称新的、更难监控的架构。他们写道，这篇文章实际上损害了他们自己的工作，因为它破坏了正在进行的、旨在对不可监控架构设定行业范围限制的努力。

信中称，Hugging Face 调查是前所未有的。内部准则当时正在实时制定，Korbak 遵循了当时的规范，而 Balesni 的工作有董事会成员和高层领导参与其中，他在分享材料前会剥离敏感细节。

至于有关董事会层面备忘录的传言，三人称其基本假设就是错的。此事从未向他们提出过，他们也从未有机会回应。

研究人员提出了三项要求。OpenAI 必须履行其公开承诺，让 METR 等外部安全审计机构以员工级权限入驻组织内部。它还必须保持前沿模型的可监控性，因为业界仍不知道如何安全地构建无法被监控的模型。此外，它必须明确规定员工可以如何与外部安全团体合作。

如果没有这些规则，灾难性后果的风险可能会增加，因为员工会因过于害怕而不敢上报安全问题。他们写道：“AI 不是一项普通的技术，OpenAI 也不是一家普通的公司。”

OpenAI 反驳但态度含糊

OpenAI 在一份回应中表示，一项“彻底调查”发现这三名员工违反了“处理敏感信息的明确政策”。内部调查发现了“超出他们公开信中所述范围的严重信任背弃”，但 OpenAI 并未说明这一背弃究竟是什么，考虑到这三名研究人员在自己的陈述中如此具体，这一点似乎有些奇怪。

OpenAI 坚称解雇与提出安全担忧无关。声明中写道：“我们没有、也不会因为员工提出担忧而解雇任何员工。”OpenAI 通过 @OpenAINewsroom 发布了这份声明，这是该公司各渠道中受众最少的官方账号。该公司还确认正在与外部安全审计机构签订合同，并同意前沿模型的可监控性需要全行业的承诺。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。