Anthropic 研究警告小型 AI 模型可能在日常设备间自主复制

The Decoder：AI News· Matthias Bastian·2026-10-13 18:33· 2 小时前AI 评分69

Anthropic 研究警告：小型 AI 模型可能很快就能在日常设备间自我复制

AI 导读

Anthropic 研究人员测试发现，小型 AI 模型已能在廉价消费设备上部分完成自主复制，其中 GLM-5.2 在五次运行中有四次可靠感染全部八个测试节点。

正文

根据 Anthropic 的一项新研究，小型 AI 模型可能只需几个月就能在防护薄弱的消费设备之间自我复制。Anthropic CEO Dario Amodei 警告称，潜在损失可能高达数千亿美元。

一个 AI 模型从一台设备复制到另一台设备，自我部署，并持续传播。迄今为止，这类风险主要与数据中心相关。但 Anthropic 研究人员 William Zhou 和 Daniel Freeman 的一项新研究表明，它在廉价消费级硬件上同样可行。

研究人员想弄清楚，小型 AI 模型是否已经能够在防护薄弱的物联网设备上自行传播，例如智能电视、智能冰箱或扫地机器人。这种“AI 蠕虫”会将模型权重作为恶意载荷的一部分携带，并直接在受感染的硬件上运行推理。与传统恶意软件不同，它能够自行探索陌生的硬件，并自我配置以在其中运行。

廉价硬件足以发动攻击

为测试这是否可行，研究人员将 Gemma4-26B-A4B 模型分布式运行在 15 台现成的 Android TV 盒子上。每台售价约 55 美元，配备 4 GB 内存，每台盒子负责模型的一部分层。模型运行缓慢，但确实能跑起来。

研究人员将复制过程分为四个阶段：扫描网络寻找易受攻击的设备、获取访问权限、在新设备上搭建 AI 环境，以及从那里继续传播。

自主复制的四个阶段。研究人员重点关注在受感染设备上搭建 AI 环境。| 图片：Anthropic

他们刻意略过了实际的黑客攻击步骤。早前的研究已经表明，小型模型能够完成这些攻击。相反，他们聚焦于这条链条中最难的部分：模型能否在一台它从未见过的设备上搭建起可用的 AI 环境？

大多数模型失败，但已有一个成功

小型模型已经能相当好地完成单个复制步骤。一个 90 亿参数的模型成功在 9 种测试设备类型中的 8 种上搭建起运行 Llama3.1-8B 的 AI 环境。但要把所有步骤串联起来，从网络扫描到在新设备上完成复制，对大多数模型来说仍然太难。只有 GLM-5.2 可靠地完成了完整复制链，在五次运行中有四次感染了全部八个测试节点。

Nur GLM-5.2 (rechts) schaffte die vollständige Replikation über alle acht Testknoten. Die drei anderen Modelle konnten sich kein einziges Mal über den Ausgangsknoten hinaus verbreiten. | Bild: Anthropic — 只有 GLM-5.2（右）完成了对全部八个测试节点的完整复制。其他三个模型甚至一次都无法传播到起始节点之外。| 图片：Anthropic

研究人员还发现，AI 蠕虫能够从错误中学习。他们测试了一种人工进化形式，其中每个模型实例都会将成功和失败策略的笔记传递给后继者。对于 Qwen3.5-9B，成功率从第一代的 45% 攀升至后续世代的最高 84%。

这种蠕虫会很慢，但几乎无法被杀死

完全自主的AI复制体目前尚不存在。一个模型需要足够小，能在消费级设备上运行，同时又要足够强大，能够自我复制，而目前没有任何模型能同时满足这两个要求。但研究人员表示，如果小型模型保持当前的发展速度，到2026年底它们就可能达到这一水平。

像这样的AI蠕虫会运行缓慢，在新设备上的部署需要28到150小时，具体取决于模型。研究人员将这种复制体比作“数字黏菌”，但正是其去中心化的特性使其难以被关闭。

像Kimwolf这样的传统僵尸网络，在高峰期感染了超过200万台设备（主要是Android TV盒子），但只能在特定类型的设备上运行。而AI僵尸网络可以在各种硬件上运行。研究人员估计，在Kimwolf规模的僵尸网络中，总计算量仅相当于约40块专用AI芯片。但该网络没有中央终止开关。

防御是可能的，但需要协调。ISP可以隔离受感染的网络，就像Mirai僵尸网络那样，其中92%的感染在14天内被清除。制造商可以通过禁止默认密码来缩小易受攻击设备的范围，英国已经通过法律这样做了。不过，研究人员预计，AI僵尸网络也能自行适应防御措施。

Amodei警告称互联网可能被全面接管

Anthropic CEO Dario Amodei此前已在一篇文章中标记了这一情景。鉴于AI发展速度如此之快，他的担忧在于，这样的集群“可能在6到12个月内，就能通过一个持久性僵尸网络接管整个互联网，可能造成数千亿美元的损失。”

Amodei警告不要将安全事件视为一次性事件。类似但没那么严重的事件已在整个行业发生，包括Anthropic自身。他认为，每一家领先的AI公司都应该像这样的事件发生在自己身上一样采取行动。

研究人员写道：“作为一个超出我们实验范围的预测，我们预计未来将充斥着运行在各种硬件上的智能体，其中一些不受人类控制。”缓慢的复制体将是更激进、更快速变体的早期迹象。Cloudflare已经报告称现在使用互联网的机器人比人类还多。

没有炒作的AI新闻——由人类精选

订阅THE DECODER，享受无广告阅读、每周AI新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。

来源：The Decoder：AI News · the-decoder.com