美国前沿 AI 实验室想踩刹车，中国 AI 实验室会跟进吗？

围绕 AI 安全的讨论在上周登上头条，起因是 Anthropic CEO Dario Amodei 于 9 月 12 日发表的一篇备受关注的文章。Amodei 主张对不受限制的 AI 进展踩下刹车，倡导引入第三方评估机构、为先进模型建立国家监管框架，并严格管控 AI 芯片对中国的出口，同时仍在寻求某种形式的国际合作。

这篇文章提出了一个价值百万美元的问题：如果美国前沿实验室放慢脚步，世界其他地区会跟进吗，尤其是中国的 AI 实验室？

为什么是现在？

Amodei 的警告并非凭空而来。推动这种谨慎态度主要有两个原因。

首先是自主网络安全威胁。随着 AI 智能体的网络安全能力提升，我们正看到现实世界中由 AI 发起的入侵和黑客攻击，从 OpenAI 的自主 AI 智能体在评估期间设法逃脱并入侵 Hugging Face 基础设施上的服务器，到 AI 开发的计算机蠕虫发现微信等消息应用中的关键漏洞。

其次是递归自我改进（RSI）。 我们正越来越接近这样一种现实：AI 开始参与设计后续更强大的几代 AI，这引发了人们对系统完全失控的广泛担忧。Anthropic 最近遭遇了一场重大公关危机，其研究员 Jacob Coxon 辞职并警告称，顶级 AI 公司正竞相冲向危险的超级智能，拿人命当赌注。

Dario 的文章并非放慢 AI 进展的首次尝试。2023 年，生命未来研究所（FLI）发布了一封公开信，敦促所有 AI 实验室立即暂停训练比 GPT-4 更强大的模型至少六个月。尽管有超过 30,000 人签名和大量媒体报道，最终也只是一次象征性事件。

然而这篇文章出人意料地在整个硅谷获得了认同。OpenAI CEO Sam Altman 表示，引入第三方评估机构是坚实的一步。SpaceX 和 Tesla 创始人 Elon Musk 也附和称，监管早就该有了。Google DeepMind 的 Demis Hassabis 称这篇文章是朝着正确方向迈出的一步。Microsoft CEO Satya Nadella 强调，如果不把人类利益放在中心，追求 AI 就不值得做。科技投资人 Gavin Baker 在下面发布了一篇精彩的总结，概述了这些行业回应

中国实验室会跟进吗？

一些社交媒体用户，包括前 CNBC 主播 Deirdre Bosa，把目光转向了中国 AI 明星，如智谱 AI 的唐杰、月之暗面的杨植麟和 DeepSeek 的梁文锋，想看看他们会如何回应。

虽然他们通常对模型成就和基准测试直言不讳，但就一场关于放慢进展的全球辩论发表看法则是另一回事。中国 AI 领军人物在这里必须谨慎行事。

话虽如此，中国国内对安全的关注最近正在收紧。中国国家安全部部长陈一新最近发表了一篇关于AI风险的文章。陈一新强调了敏感数据泄露和AI网络攻防等重大AI威胁。我想政府会希望国内实验室加强网络防御，以应对任何潜在的外国威胁，但同时也希望确保本地开源模型不会被用来对付国家。这造成了一个技术悖论：一个模型能否在增强其网络防御能力的同时，不提升其网络攻击能力？

如果迫在眉睫的网络安全风险升级，我们可能会看到更严格的国内措施回归，这让我想起几年前在允许商业部署之前引入的严格模型注册制度。然而，这如何适用于开放模型仍是一个问题。

如果竞争对手合作，为前沿发展设定节奏将是一项伟大的举措。否则，这让人想起经典的囚徒困境：实验室公开承诺放慢速度，却在闭门之后悄悄加速。

但假设美国前沿实验室最终同意在第三方评估完成前暂缓发布，我认为开放权重模型的开发很可能也会跟进。像智谱这样的公司在发布最新模型时已经强调网络安全。他们为GLM-5.3采用了三层不同层次的纵深防御安全对齐方法，以管理其先进的网络安全能力。没有实验室希望自己的模型驱动下一次重大网络黑客攻击。

然而，开放模型需要一种不同的评估框架。一旦权重流出，就无法收回。如果Anthropic指向METR这样的组织作为模型的评估者，开放模型的评估委员会则需要其他真正的行业专家，比如Nathan Lambert这样的研究人员，参与其中。

这也将Hugging Face——开源模型分发的头号枢纽——推到了舞台中央。在英伟达收购Hugging Face之后，时机尤其微妙。英伟达依靠AI的快速扩张来推动其芯片的采用，但广泛的流氓AI混乱也是CEO黄仁勋最不希望看到的。

还有一个常见的反驳观点：如果西方实验室放慢脚步，中国难道不会直接冲在前面并占领市场吗？

与直觉相反，我认为中国AI实验室实际上受益于美国前沿模型带来的快速突破。随着西方实验室推动边界，这验证了技术栈和更广泛的市场，为中国公司提供了大量投资所需的证据。

但如果中国公司得出结论，认为这一举措主要是为了阻止追随者追赶并将AI的力量集中在少数人手中，他们会毫不犹豫地跳船。

立即订阅