Anthropic 警告自复制 AI 蠕虫，实验显示小模型可跨设备传播

一大群智能设备——冰箱、烤箱、吸尘器、割草机、安全摄像头和电视——正在密谋接管互联网吗？不。但它们可能很快就会在不知不觉中成为自我复制AI模型的宿主，这些模型会从一台设备传播到另一台设备，而且极难被控制。

欢迎来到AI蠕虫这个令人不安的世界。在这里，取决于你问的是谁，模型不受控制地在家用电器间传播的前景，要么是一个迫在眉睫的网络安全风险，要么是AI公司又在散布带有末日论色彩的炒作。在本周发布的一篇博客文章中，Anthropic警告称，小型AI模型距离获得这种能力可能只有“几个月”。其实验提供了一些证据来支持这一点，但研究人员所展示的成果与他们所预言的迫在眉睫的威胁之间仍存在巨大差距。尽管如此，接受The Verge采访的专家表示，虽然计算机蠕虫和对自我复制AI的担忧并非新鲜事，但近期的进展表明，有充分理由认真对待这些警告。

自我复制的机器长期以来一直困扰着AI安全研究人员。它们引发了这样一种前景：系统会扩散到人类控制之外，即便并非不可能，也很难将其关闭。与许多关于AI不断进步的担忧一样，人们的注意力主要集中在日益强大的前沿模型上，例如OpenAI的Astra或Anthropic的Mythos。但一个关键的制约因素是它们的规模：它们极其庞大。前沿模型可能包含数万亿个参数——即训练过程中学到的值——需要海量的计算资源，这使它们基本上只能待在数据中心里，在那里它们更容易被监控，原则上也能被关掉。

然而，较小的模型带来了不同的问题。它们正在迅速改进，可以在消费级硬件上运行，而且通常可以免费下载。Anthropic的研究人员想知道，一个模型能否在一个由较小、性能较弱的设备组成的网络中运行。他们成功地将谷歌的Gemma 4——一个拥有260亿参数的模型——拆分到15台Android智能电视盒子上运行，而这些设备中没有一台强大到足以单独运行它。它奏效了，尽管速度非常慢。

在证明了模型可以在家用设备上运行之后，研究人员想看看AI能否在这种环境中执行自我复制所需的步骤。他们构建了一个模拟的计算机网络，其行为被设计得像Android设备，然后释放了一个由AI驱动的“蠕虫”——一种会自动复制并在网络中传播的恶意软件——其任务是寻找新机器、将AI模型复制到这些机器上，并让模型在每台机器上运行起来。值得注意的是，被传播的模型——Meta的80亿参数Llama 3.1-8B——与协调攻击的模型不同，而且小得多。

只有测试中最复杂的模型，即来自中国智谱AI的GLM-5.2，成功传播到了整个网络，不过较小的模型也成功完成了各个单独的步骤。根据它们改进的速度，Anthropic的研究人员预测，较小的模型到今年年底可能就能达到GLM-5.2的能力水平。

研究人员写道：“作为一个超出我们实验范围的预测，我们预计未来将充斥着运行在各种硬件上的智能体，包括一些不受人类控制的硬件。”他们承认，尚未展示出“一个完整的流氓复制器”，也不知道它可能是什么样子（他们提出可能是“缓慢、分布式的‘数字黏菌’”或“一群果蝇”）。但他们表示，他们的发现显示了“AI蠕虫的生命迹象”，并呼吁在复制系统可能用来传播的众多设备上加强安全性。

他们写道：“我们应该致力于加固我们的系统，使此类复制器难以传播，同时也要准备好应对一个它们将长期存在的世界。”值得注意的是，Anthropic在这些测试中并未使用自己的模型，并多次主张，其AI模型的开源替代品比闭源系统带有“更多风险”。

这一警告引发了熟悉的公关炒作和AI末日论指责，包括来自The Verge此前报道的读者。毕竟，展示AI能在一堆廉价电视盒子上缓慢运行，与一个自我复制的AI蠕虫席卷家用设备之间，存在着相当大的鸿沟。但是，尽管质疑一家公司的动机当然值得，但故意散布恐慌的指控却难以证实，尤其是Anthropic长期以来一直对AI安全提出担忧。Anthropic也并非唯一调查自我复制AI威胁或呼吁加强联网设备安全的机构。

今年早些时候，位于加利福尼亚的AI安全研究公司Palisade Research展示了AI模型可以自主将自己复制到其他机器上。Palisade的执行董事Jeffrey Ladish告诉The Verge：“这里的新颖之处在于，这些模型的参数量比之前被证明能够自我复制的模型要小得多。”Anthropic的工作更进一步，展示了AI可以在多个低功耗设备上运行。Ladish说：“大型模型也将如此。”他预测，即使是前沿模型最终也可能在由消费级芯片组成的大型网络上运行，例如MacBook中的芯片。

“此前的研究已经证明，AI驱动的计算机蠕虫威胁是现实存在的。”

计算机蠕虫也不是新事物。它们感染机器已有数十年之久。但 AI 可以让它们更聪明、更具适应性，也更有能力应对任何障碍。Ladish 指出，即便是较小的模型，在自主实施网络攻击方面也变得越来越擅长。“此前的研究已经证明，AI 驱动的计算机蠕虫威胁是真实存在的，”多伦多大学教授 Nicolas Papernot 对 The Verge 表示，他曾研究过这类蠕虫。

综合来看，Anthropic 所展示的这些能力可能会大幅扩大值得作为网络攻击目标的设备范围。“那些此前因人类攻击者资源和时间有限而不被视为目标的设备，如今也可能成为目标——即便不是为了它们所持有的数据，也是为了把它们当作跳板去攻击更有价值的目标，”Papernot 说。而目标并不匮乏：互联网上充斥着防护薄弱的智能设备。

Papernot 告诫不要将 AI 拟人化，但表示 AI 驱动的计算机蠕虫威胁是“具体的”，并且“需要立即采取行动”，尤其是在保护医院和电网等关键基础设施方面。

“除非付出巨大努力来保护各类设备，否则 AI 蠕虫很可能会有肥沃的土壤可供殖民，”Ladish 说。“我预计未来 12 个月内我们就会在野外看到第一批此类蠕虫。”

关注本报道的话题和作者，以便在个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Robert Hart