Anthropic 实验展示小型 AI 模型跨设备复制能力并警告 AI 蠕虫风险

The Verge：AI· Robert Hart·2026-10-14 23:19· 2 小时前AI 评分62

Anthropic 关于自我复制 AI 的警告令人警觉地似曾相识

AI 导读

Anthropic 发布博客警告，小型 AI 模型可能距离自我复制能力只有数月。其研究人员将 Google 的 26B 参数 Gemma 4 拆分到 15 台 Android 电视盒上运行，并在模拟 Android 网络中测试 AI 蠕虫，其中只有智谱（Z.ai）的 GLM-5.2 成功传遍整个网络。

正文

成群的智能设备——冰箱、烤箱、吸尘器、割草机、安防摄像头和电视——正在密谋接管互联网吗？不。但它们可能很快就会在不知不觉中成为自我复制 AI 模型的宿主，这些模型会从一台设备传播到另一台设备，且极难被遏制。

欢迎来到 AI 蠕虫这个令人不安的世界。在这里，取决于你问谁，模型不受控制地在家用电器间传播的前景，要么是迫在眉睫的网络安全风险，要么是 AI 公司又一次散布带有末日色彩的炒作。在本周发布的一篇博客文章中，Anthropic 警告称，小型 AI 模型距离获得这种能力可能只有“数月之遥”。其实验提供了一些支持这一说法的证据，但研究人员所展示的结果与他们所预言的迫在眉睫的威胁之间仍存在巨大差距。不过，接受 The Verge 采访的专家表示，尽管计算机蠕虫和对自我复制 AI 的恐惧并非新鲜事，但近期的进展表明，有充分理由认真对待这些警告。

自我复制机器长期以来一直困扰着AI 安全研究人员。它们带来了系统可能脱离人类控制、难以甚至无法关闭的前景。与许多对 AI 不断进步的恐惧一样，关注点主要集中在日益强大的前沿模型上，例如 OpenAI 的 Astra 或 Anthropic 的 Mythos。但一个关键的制约因素是它们的规模：它们极其庞大。前沿模型可能包含数万亿个参数——训练期间学到的值——需要海量计算资源，这主要将它们限制在数据中心内，在那里它们更容易被监控，原则上也可以被关闭。

然而，较小的模型带来了不同的问题。它们正在迅速改进，可以在消费级硬件上运行，而且通常可以免费下载。Anthropic 的研究人员想知道，一个模型能否在一组较小、性能较弱的设备组成的网络上运行。他们成功地将 Google 的 Gemma 4——一个拥有 260 亿参数的模型——拆分到 15 台 Android 智能电视盒上，其中没有任何一台强大到足以单独运行它。它成功了，尽管速度非常慢。

在证明模型可以在家用设备上运行之后，研究人员想看看 AI 能否在这种环境中执行自我复制所需的步骤。他们构建了一个模拟的计算机网络，其行为被设计得像 Android 设备，然后释放了一个由 AI 驱动的“蠕虫”——一种会自动复制并在网络中传播的恶意软件——其任务是寻找新机器、将 AI 模型复制到这些机器上，并让它在每台机器上运行。值得注意的是，被传播的模型——Meta 的 80 亿参数 Llama 3.1-8B——与协调攻击的模型不同，而且小得多。

只有测试中最先进的模型，来自中国智谱AI的GLM-5.2，成功扩散到了整个网络，不过较小的模型也成功完成了单个步骤。根据它们改进的速度，Anthropic的研究人员预测，到今年年底，较小的模型可能就能达到GLM-5.2的能力水平。

“作为一个超出我们实验范围的预测，我们预计未来将充斥着运行在各种硬件上的智能体，包括一些不受人类控制的硬件，”研究人员写道。他们承认，他们尚未展示出“一个完整的流氓复制体”，也不知道它会是什么样子（他们提出了“缓慢、分布式的‘数字黏菌’”或“一群果蝇”的设想）。但他们表示，他们的发现显示了“AI蠕虫的生命迹象”，并呼吁在复制系统可能用来传播的众多设备上加强安全性。

“我们应该致力于加固我们的系统，使这类复制体难以传播，但也要准备好应对一个它们将长期存在的世界，”他们写道。值得注意的是，Anthropic在这些测试中并未使用自己的模型，并且多次主张，其AI模型的开源替代品比闭源系统带有“更多风险”。

这一警告引发了熟悉的公关炒作和AI末日论指控，包括来自The Verge早前报道的读者。毕竟，展示AI能在一堆廉价电视盒子上缓慢运行，与一个自我复制的AI蠕虫肆虐家用设备之间，存在着相当大的鸿沟。但是，虽然质疑一家公司的动机当然值得，但故意散布恐慌的指控很难得到证实，尤其是Anthropic长期以来一直对AI安全提出担忧。Anthropic也并非唯一一家调查自我复制AI威胁或呼吁加强互联设备安全的机构。

今年早些时候，位于加利福尼亚的AI安全研究公司Palisade Research展示了AI模型可以自主将自己复制到其他机器上。“这里的新情况是，这些模型的参数数量比之前被证明能够自我复制的模型要小得多，”Palisade的执行董事Jeffrey Ladish告诉The Verge。Anthropic的工作更进一步，展示了AI可以在多个低功耗设备上运行。“这对大型模型也是如此，”Ladish说，并预测即使是前沿模型最终也可能能够在由消费级芯片组成的大型网络上运行，比如MacBook中的芯片。

“先前的研究已经证明，AI驱动的计算机蠕虫威胁是现实存在的。”

计算机蠕虫也不是新事物。它们感染机器已有数十年之久。但 AI 可以让它们更聪明、更具适应性，也更有能力应对任何障碍。Ladish 指出，即便是较小的模型，在自主实施网络攻击方面也变得越来越擅长。“此前的研究已经证明，AI 驱动的计算机蠕虫威胁是真实存在的，”多伦多大学教授 Nicolas Papernot 对 The Verge 表示，他曾研究过这类蠕虫。

综合来看，Anthropic 所展示的这些能力可能会大幅扩大值得作为网络攻击目标的设备范围。“那些此前因人类攻击者资源和时间有限而不被视为目标的设备，如今也可能成为目标——即便不是为了它们所持有的数据，也是为了将它们用作跳板去攻击更有价值的目标，”Papernot 说。而目标并不匮乏：互联网上充斥着防护薄弱的智能设备。

Papernot 告诫不要将 AI 拟人化，但表示 AI 驱动的计算机蠕虫威胁是“具体的”，并“值得立即采取行动”，尤其是在保护医院和电网等关键基础设施方面。

“除非付出巨大努力来保护各类设备，否则 AI 蠕虫很可能会有肥沃的土壤可供殖民，”Ladish 说。“我预计我们会在未来 12 个月内看到首批此类蠕虫出现在现实世界中。”

关注本报道的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Robert Hart

来源：The Verge：AI · theverge.com