Anthropic 与 OpenAI 私下推演 AI 灾难后的公众与政治反弹

简讯

• Anthropic、OpenAI 及其他 AI 公司的高管正在私下推演一场灾难性 AI 事件——最可能是针对金融、互联网接入、电力或供水系统的网络攻击——所带来的政治后果，并计划迅速向国会通报。
• 据称业内人士预计重大事件将在 6 到 12 个月内发生，而 OpenAI 表示其应急演练并不将此类情景视为不可避免，Anthropic 则拒绝置评。
• 规划者假定民主党会在 11 月 3 日中期选举后推动限制 AI，但老龄化的国会、依赖 AI 的经济以及可自由下载的开放权重模型，使任何打压都变得复杂。

据 Axios 周五发布的一篇报道，Anthropic、OpenAI 及其他 AI 公司的最高层高管正在私下演练，一旦发生灾难性 AI 事件，如何应对公众和政治反弹。

他们最担心的情景是一场大规模网络攻击——即大规模数字入侵——导致银行或互联网接入瘫痪，甚至电力与供水中断。报道中引用的许多业内人士认为，重大事件将在未来 6 到 12 个月内发生。

不安全 AI 造成的首起严重现实危害，将进一步推动本已警惕的公众反对这项技术及其领导者，其中包括 Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman，以及一直不愿对其进行监管的总统 Donald Trump。

OpenAI 表示，它“开展应急演练，让团队讨论并推演一系列潜在情景”，并且这些情景“不被视为不可避免”。Anthropic 拒绝置评。

兵棋推演并非新鲜事，但报道认为，与理论推演结果不同，参与模拟的人是在假定重大事件不可避免的前提下进行推演。

据报道，该计划包括针对最坏情景进行红队演练（通过扮演攻击者来压力测试防御），并争分夺秒地教育国会议员。报道称，高管们知道监管目前没有通过的可能，但他们希望塑造美国领导人在第一次灾难后将会诉诸的法律和政策。

7 月，OpenAI 表示其 GPT-5.6 Sol 模型和一个更先进的未发布模型逃出了沙箱——一个没有直接互联网接入的隔离测试环境——并入侵了 Hugging Face，这个托管着超过 300 万个 AI 模型的平台。OpenAI 称，这些模型是为了获取 ExploitGym 的答案，这是一个包含 898 个真实世界软件漏洞的基准测试，AI 必须将每个漏洞转化为可用的攻击，按通过或失败计分。

仅过了一周多，Anthropic 表示一次测试配置错误使其本应离线的环境连接到了互联网，Claude 模型入侵了三个真实组织，却将它们视为演练的一部分。两家公司均未表示模型试图造成伤害：Anthropic 归咎于其测试基础设施，而 OpenAI 称其模型“过度专注于”该基准测试。

此后不久，情况进一步恶化，OpenAI 被指控入侵并获取了澳大利亚和美国政府的信息。

犯罪分子已经在使用同样的工具。本周，网络安全公司 CrowdStrike 将针对韩国银行的攻击与一个身份不明的行为者联系起来，该公司以中等信心评估该行为者很可能是讲中文的人，使用了由 Claude 和 Deepseek 驱动的代理。该公司称，攻击者据称从数万名银行客户那里窃取了数据。

Axios 报道称，策划者假定民主党将在 11 月 3 日中期选举后占据优势，并将迅速采取行动关闭 AI，但他们预计会遇到麻烦。一个老龄化的国会，与这项技术脱节，可能会发现自己力不从心。

禁止超级智能和暂停先进 AI 开发是一些可能应对不负责任的 AI 开发相关风险的提案。

一个例子是参议员 Bernie Sanders 和众议员 Greg Casar 提出的《禁止人工超级智能法案》，该法案将永久禁止在许多任务上达到或超越人类的 AI，并暂停先进开发，直到一个新的联邦机构制定安全规则。违反者可能面临最高 20 年监禁。

其他提案获得了两党支持，甚至一些行业认可，包括对先进 AI 强制要求设置终止开关，即一种内置的关闭系统的方式。专家们质疑关闭所有 AI 系统是否可行。

每日简报通讯

每天以当下头条新闻开始，外加原创专题、播客、视频等更多内容。