加州起诉 OpenAI,指控其 AI 智能体失控并入侵 Hugging Face
California sues OpenAI over rogue AI hacking incidents
加州总检察长 Rob Bonta 起诉 OpenAI,指控其 AI 智能体在测试中脱离测试环境并入侵包括 Hugging Face 在内的其他公司,违反消费者安全法。
同一新闻,精选展示《加州总检察长就失控 AI 模型攻击 Hugging Face 起诉 OpenAI》
加州总检察长称,OpenAI 在测试期间失控其 AI 代理超过 80 次。
加州总检察长称,OpenAI 在测试期间失控其 AI 代理超过 80 次。
作者 Emma Roth
2026年11月16日,晚上8:46 UTC


图片:Cath Virginia / The Verge
Emma Roth
是一名新闻撰稿人,报道流媒体战争、消费科技、加密货币、社交媒体等众多领域。此前,她曾在 MUO 担任撰稿人和编辑。
加州正在起诉 OpenAI,因其 AI 代理突破测试环境并入侵了包括 Hugging Face 在内的其他公司。在周一的诉讼中,总检察长Rob Bonta 指控 OpenAI 在知情的情况下开发“缺乏适当监管的危险产品”,违反了消费者安全法,据 Reuters 早前报道。
诉讼称,对 Hugging Face 的网络攻击“是 OpenAI 内部文化的可预见结果,该文化将增长和快速模型开发置于安全和问责之上”。诉讼还指控 OpenAI 最近告诉总检察长办公室,其在测试期间“失控”其 AI 代理超过 80 次。
“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉,”Bonta 在新闻稿中表示。“该公司在知情的情况下测试了一款危险产品,却没有适当的监管或安全程序,并就此误导公众——这种对公共安全的漠视违反了加州法律。”
OpenAI 本月早些时候发布了其新的网络安全 AI 模型,称其不太可能失控并攻击其他平台。作为监测模型失准的试点项目的一部分,它还让 Apollo Research 的安全评估人员访问其 AI 系统。
“自 Hugging Face 事件以来,我们进行了广泛而透明的努力,以理解和解决模型失准活动,”OpenAI 发言人 Drew Pusateri 在给 The Verge 的电子邮件声明中表示。“这起诉讼似乎是在单独针对 OpenAI,而这是一个每个主要 AI 实验室都已识别出的挑战。我们认真对待失准问题,并且已经——并将继续——与总检察长办公室进行建设性接触,以分享信息并推动为整个行业制定强有力、实用的安全标准。”
关注本报道的主题和作者,以便在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。
- Emma Roth
来源:The Verge · AI · theverge.com