被解雇的 OpenAI 安全研究员否认不当行为指控，警告寒蝉效应

Jasmine Wang、Tomek Korbak 和 Mikita Balesni，这三位上周被 OpenAI 解雇的安全研究员，发表了一封公开信，否认公司关于他们在既定公司程序之外不当处理敏感信息的说法，并警告称，他们的解雇释放出一种寒蝉效应，将对公司文化产生连锁影响。

“我们开始担忧，围绕我们被解雇的内部和外部沟通，已让我们的前同事害怕发言，害怕以直到上周还是 OpenAI 工作不可或缺一部分的方式行事，”这三位研究员周四在致 OpenAI 安全与安保委员会、安全咨询小组和使命咨询委员会的公开信中写道。 

这些研究员上周被解雇，据称原因是与一家第三方 AI 安全组织分享了公司机密信息。OpenAI 表示，他们“访问并处理敏感公司信息”，违反了公司政策。

“AI 不是一项普通技术，OpenAI 也不是一家普通公司，”Wang、Korbak 和 Balesni 写道。“我们这些从事安全工作的人比任何人都更早看到风险，我们依赖与外部专家的密切合作来研究如何应对这些风险。能够无所畏惧地这样做，并拥有定义明确的内部程序来支持这项工作，这本身就是一项至关重要的安全机制。”

他们表示，他们的解雇代表了 OpenAI 文化的更广泛转变，而这家公司过去曾鼓励员工“提出安全担忧并公开表达异议”。他们说，如今员工“不清楚自己处于什么位置”，因为一个月前据称还属正常的行为，现在突然成了解雇理由。 

“鉴于围绕 AI 发展的重大安全担忧，不能让员工在一个恐惧和规则不明阻碍 AI 安全工作、削弱第三方问责的环境中工作，”他们写道。“像我们这样被解雇，执行和传达得如此突然，正在冷却 OpenAI 过去所珍视的开放文化。”

在信中，三人否认参与向 The Information 泄露有关 OpenAI 最新模型中可监控性较低的架构的信息，这些架构使思维链推理更难以监控。他们还否认在其工作职责范围之外与外部各方接触。 

OpenAI 尚未对这封公开信作出正式回应，但向 TechCrunch 分享了一份内部备忘录，署名者为一位研究负责人，其中赞扬了这三位研究员对 AI 安全的贡献，并否认他们被解雇是出于报复。

“我想非常明确地说，这些决定与提出安全担忧或公开发声无关，”备忘录写道。“我们一直鼓励这样做，也将始终如此。我们不会因为员工提出担忧而解雇他们。”

另外，OpenAI 一位发言人告诉 TechCrunch，这三人被解雇是在一项调查发现“不当处理研究信息明显违反我们政策”的“不当行为模式”之后，且该行为不止于与一个外部 AI 评估小组分享信息。

对于 TechCrunch 关于这些研究员具体被指违反哪些政策、他们被解雇的具体情形，以及公司如何保护提出安全担忧并与外部评估者合作的员工等问题，OpenAI 没有直接回应。

这些解雇事件引发了外界对他们处境的猜测，尤其是在OpenAI因近期涉及失控代理的安全事件以及模型信息泄露而面临审查之际。

信中还提到了研究人员对Hugging Face事件的回应，在该事件中，一群代理突破了它们的沙箱并侵入了外部系统。信中称，该事件及调查“史无前例”，意味着“内部政策正在实时制定”。信中称，由于调查的敏感性，Korbak认为他与外部安全评估人员密切沟通以建立信任的做法，符合OpenAI的政策和规范。 

与此同时，Balesni也在内部致力于解决日益严重的AI可监控性问题，研究人员在信中称，这一努力“只有通过与外部各方广泛沟通才能成功”。根据这封信，Balesni在整个工作过程中与OpenAI董事会成员和高管进行了协调，并得到了他们的支持。

“在整个过程中，Mikita都向他的汇报线进行了汇报，并注意在分享材料前删除敏感细节，”信中写道。“他始终本着善意行事，并遵守公司当时的规范。”

在X上的另一个帖子中，Wang更详细地解释了她自己被解雇的经过，称OpenAI告诉她，她被解雇是因为她访问了一位高管的电子邮件。

“OpenAI将这一访问权限委托给我用于招聘，”她写道。“当我不再需要它时，我要求IT部门移除权限。他们没有执行我的请求，我自己也无法移除，而且该收件箱在我手机邮件应用中以无法区分的方式合并了。当我误打开一封敏感邮件时，我在几分钟内就告诉了那位高管，并再次要求IT处理。这一切都没有任何隐瞒。”

Wang接着表示，这些解雇背后的原因“根本说不通”，她和她的同事“并不是第一批在可疑情况下被赶出OpenAI的人”。

研究人员呼吁OpenAI遵守其公开承诺，在组织内部嵌入第三方安全审计人员，保持对前沿模型的可监控性，并“继续支持安全研究人员与安全生态系统中其他各方之间开放透明的对话文化”。

根据该备忘录，OpenAI同意他们的建议。

“除非员工现在站出来反对这种手段，否则我担心我们不会是最后一批，”Wang说。“向所有仍在OpenAI的人传递的信息很明确：提出担忧或与外部安全团体密切合作，你就可能是下一个，而且不会被告知原因。如果最接近风险的人不敢发声，你就无法安全地构建AGI。”

本文已根据OpenAI提供的更多信息进行了更新。

当您通过我们文章中的链接进行购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。