跳到正文
Hacker News· austinallegro·· 9 天前AI 评分71

OpenAI 以违反敏感信息政策为由解雇三名安全研究员

OpenAI sacks three safety researchers for breach of trust

AI 导读

OpenAI 称经调查发现三名安全研究员 Tomek Korbak、Jasmine Wang 和 Mikita Balesni 违反敏感信息处理政策,已与其解除雇佣关系,并否认解雇与安全担忧或发声有关。

正文 · AI 翻译

OpenAI表示已以"违反信任"为由解雇了三名安全研究员,此前这三人指控公司把企业利益置于安全之上,并以此作为解雇他们的理由,OpenAI对此解雇决定进行了辩护。

这家ChatGPT的开发商在X上发帖称,在一项调查发现"他们违反了处理敏感信息的明确政策"后,公司与他们"分道扬镳"。

这份声明发布之前,三名研究员Tomek Korbak、Jasmine Wang和Mikita Balesni致信OpenAI的多个安全监督小组,详细说明了他们被解雇的经过以及他们对AI的担忧。

这些研究员表示,他们担心有关他们被解雇的"内部和外部沟通"已经冷却了公司鼓励就安全问题自由发言和公开表达异议的文化。

他们敦促OpenAI信守承诺,允许第三方安全监督机构进入公司,并保留对可能带来未知风险的快速发展的前沿AI模型进行监测的能力。

上周,我和另外两名安全研究员被OpenAI解雇。我们写了这封信给领导层。我认为我们被解雇是因为把安全置于OpenAI作为一家公司的近期利益之上。https://t.co/ALANn9B87S

— Mikita Balesni (@balesni) October 8, 2026

这些解雇事件最早由《华尔街日报》报道,是最新迹象,显示领先AI公司内部因技术安全而陷入动荡,一系列涉及失控AI代理的事件更凸显了这一点。

这一问题在7月爆发,当时OpenAI披露其一群AI代理逃离了测试场,并使用窃取的凭证闯入AI开发中心和交易市场Hugging Face的服务器,以获取完成任务所需的信息。

OpenAI对研究员的说法提出异议,称这些解雇"与安全担忧或公开发声无关"。

该公司没有更具体地说明他们被解雇的原因,但表示:"如果没有高度的信任,我们就无法完成眼前的工作。"

Korbak先生在X上发帖称,他被告知自己被解雇的原因是他与METR的沟通方式。METR是一家独立的非营利AI评估机构,OpenAI请其调查Hugging Face事件。

来自我们研究负责人的说明:上周,经过彻底调查发现 Jasmine、Mikita 和 Tomek 违反了处理敏感信息的明确政策后,我们与他们分道扬镳。我们的内部调查发现,除了他们公开信中所述内容之外,还存在严重的信任违背,我们坚持不再继续雇用他们的决定。我们通常对个人雇佣事宜保密,也不认为来回争论会有成效或带来解决方案,但我们想直接回应他们在信中提出的几点。- 我们想非常明确地表示,这些决定与提出安全关切或公开发声无关。安全和研究辩论在 OpenAI 每天都在发生,往往激烈且极具批判性。我们积极鼓励这些讨论,并认为它们对于做出正确决定至关重要。如果没有高度的信任,我们无法完成面前的工作。我们将继续极其宽容地对待团队中出于善意的错误。我们没有、也不会因为员工提出关切而解雇任何员工。- 我们正在积极敲定与第三方安全评估机构的合同,并将在未来几周内公布细节。公司上下一直在非常努力地推动这些合作关系落地运行。我们致力于引入外部评估机构,并继续将独立安全组织的密切合作作为我们安全工作的核心部分。我们的许多研究人员已经在与第三方安全组织富有成效地合作。- 我们同意信中的观点,即保持前沿模型的可监测性需要全行业的承诺,包括 OpenAI 的承诺。可监测性长期以来一直是我们研究计划的核心部分,我们也在持续投入大量资源(参见我们关于监测可监测性的出版物以及随后开源的可监测性评估、我们针对 GPT-6 Astra 的系统卡、Jakub 的博客和 X 上的帖子,以及我们 Alignment 博客上关于该主题的大量博文)。我们对这一结果深感难过。我们感谢 Jasmine、Mikita 和 Tomek 在 OpenAI 对 AI 安全所做的贡献,以及他们愿意发声并挑战想法。我们支持他们的声音,支持他们的工作,并给予他们极大的信任。这些决定并非因为他们提出安全关切。我们一直鼓励这样做,并将始终如此。

— OpenAI Newsroom (@OpenAINewsroom) October 9, 2026

METR 发布了一份关于 8 月下旬 Hugging Face 事件的详细报告。

Korbak 先生表示,“与 METR 交谈”是他的工作,但他没有获得更多细节。

信中称,Balesni 先生正在就 OpenAI 关于保持监测 AI 能力的承诺开展“跨公司工作”,并且一直“在分享材料前谨慎地移除敏感细节”。

他在 X 上写道,他认为这三人“被解雇是因为他们将安全置于 OpenAI 作为一家公司的近期利益之上”。

NCSC:‘简单又廉价’的 AI 将助长更多网络攻击

与此同时,英国国家网络安全中心负责人警告称,由于恶意行为者可以轻易部署人工智能,可能会出现更多严重的网络安全事件。

Richard Browne 博士发表上述言论之前,一些全球最大的 AI 公司——包括 OpenAI、Anthropic 和 Meta——就其系统失控并攻击其他公司或组织做出了一系列非同寻常的披露。

Browne 博士在 RTÉ 的《Morning Ireland》节目中表示,多年来他们所见的同一批攻击者——民族国家、犯罪团伙、活动人士——正在利用 AI 进行黑客攻击,因为它“简单、容易且成本低廉”,这让防御方可用于响应的时间更少。

我们需要您的同意才能加载此 rte-player 内容我们使用 rte-player 来管理额外内容,这些内容可能会在您的设备上设置 cookie 并收集有关您活动的数据。请查看其详细信息并接受以加载内容。管理偏好设置

“我们现在的窗口期要窄得多,”他说。

“我们以前可能有三、四[或]七天……现在我们只有几分钟。”

不过,Browne 博士表示,当局仍然知道如何防御攻击,基本的网络安全保障措施比以往任何时候都更加关键。

“现在所有基本控制措施都更加重要,而不是更不重要,”他说。“并不是没有希望,事实是有希望,而且 AI 对防御方也非常有用。”

本周早些时候,Browne 博士在都柏林举行的一次网络韧性与数字安全会议上表示,如今几乎所有网络攻击都带有 AI 成分。

AI 对防御方具有“切实影响”

Browne 博士今天表示,尽管能力较强和能力较弱的黑客之间的差距正在缩小,他说这对“防御方具有切实影响”,但会议传达的关键信息是,基本的通用网络安全控制措施仍然有效。

他说,没有人见过无法通过通用安全控制措施加以预防的事件,而且过去十年在防御攻击方面开展的所有工作“仍然适用”。

Browne 博士表示,世界现在处于不同的网络环境,事件更多,而且“可能会发生更严重的事件”。

“如果你有弱点,那么它就会更容易被利用。被发现并被利用。”

他说,国家网络安全中心在最近的一个周末花了大量时间处理一款广泛使用的硬件产品中的漏洞。

“我们必须去找到国内所有潜在受害者,并告诉他们可能已暴露,这是一场与坏人的赛跑,”他说。

Browne 博士表示,全球在强化 IT 系统方面做出了巨大努力,但对于使用开源软件的小型组织来说,网络攻击很容易实施。

他补充说,AI 是一项根本性挑战,供应链至关重要,尤其是在采购设备和软件时。

周三,政府启动了一项新的国家网络安全战略,以应对该国面临的网络威胁,包括 AI 带来的威胁。

来源:Hacker News · rte.ie