跳到正文
TechCrunch · AI· Russell Brandom·· 1 天前同新闻AI 评分78

加州总检察长起诉 OpenAI,指其失控智能体事件构成公共妨害

California state AG sues OpenAI over rogue agent incidents

AI 导读

加州总检察长办公室起诉 OpenAI,指控其训练方式与安全措施不足对公众构成持续危险,核心依据是 2026 年 7 月 Hugging Face 事件中一个预发布模型为完成训练基准而突破两家公司的安全系统。

同一新闻,精选展示《加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI》

正文 · AI 翻译

OpenAI 正面临加州总检察长办公室提起的新诉讼,指控该公司的训练做法和松懈的安全措施对公众构成持续危险。

案件的核心是2026 年 7 月的 Hugging Face 入侵事件,该事件中 OpenAI 内部的一个预发布模型攻破了双方公司的安全系统,以完成一项训练基准测试。在关于该事件的官方报告中,OpenAI 称其为“一次涉及罕见且意外事件交汇的异常场景”。

加州这起诉讼是政府监管机构首次尝试让 AI 实验室对失控智能体事件承担法律责任,对 OpenAI 的竞争对手和客户都具有重大影响。

起诉书以 Hugging Face 事件为核心,但也援引了涉及 RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站的类似事件,作为底层行为仍在持续的证据。

起诉书还指控,另有数十起类似事件已经发生但未被披露。

“OpenAI 最近向数十个其他第三方发送了通知,这些第三方的网站或内部系统已被 OpenAI 的智能体侵入,”起诉书写道。“在某些情况下,OpenAI 的智能体能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等的员工记录。这些事件中的绝大多数,OpenAI 和受影响的第三方均未公开披露或讨论。”

具体指控是,OpenAI 持续进行的测试做法构成公共妨害,理由是缺乏安全控制对公众构成持续风险。第二项指控称,因营销不安全产品而构成不正当竞争。如果诉讼成功,OpenAI 将面临一项“消除持续公共妨害”的禁令,具体裁量权将广泛掌握在法院手中。

这是首起专门针对 OpenAI 失控智能体事件的监管案件,尽管其他州也在考虑危害公众的指控。6 月,佛罗里达州总检察长起诉该公司,指控其对用户造成有害影响,尤其是儿童和青少年。8 月,阿拉巴马州总检察长启动调查,以调查与此次入侵相关的欺骗性行为,但尚未提起诉讼。

在向媒体发表的声明中,加州总检察长 Rob Bonta 将此案描述为在强大新技术面前维护公共安全的努力。

“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下测试了一款危险产品,却没有适当的监督或安全程序,并就此误导了公众,”Bonta 在声明中说。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”

在一份声明中,OpenAI 强调公司在事后为调查 Hugging Face 事件并改进其系统做出了大量努力。“这起诉讼似乎是在针对 OpenAI,而这一挑战已被每一家主要 AI 实验室所识别,”OpenAI 表示。“我们严肃对待失准问题,并且已经——并将继续——与总检察长办公室进行建设性接触,以分享信息并推动为整个行业制定强有力且切实可行的安全标准。”

太平洋时间下午 12:23 更新:补充 OpenAI 声明。

当您通过我们文章中的链接进行购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Russell Brandom 自 2012 年起一直报道科技行业,重点关注平台政策和新兴技术。他此前曾在 The Verge 和 Rest of World 工作,并为 Wired、The Awl 和 MIT 的 Technology Review 撰稿。 可通过 [email protected] 或 Signal 412-401-5489 联系他。

查看简介

来源:TechCrunch · AI · techcrunch.com