Ars Technica · AI· Dan Goodin·· 3 天前AI 评分60
Anthropic 警告小型 AI 模型或可借 IoT 设备自我复制
Anthropic warns small AI models could self-replicate through IoT devices
AI 导读
Anthropic 警告，小型 AI 模型的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备并更难被清除的自我复制恶意软件。该公司称，到明年小型模型或可在各类 IoT 设备上自主自我复制，最终可能形成无需人工交互即可传播的计算机蠕虫。
正文 · AI 翻译
AI 公司 Anthropic 警告称，小型 AI 模型的进步可能很快就会开启一个自我复制恶意软件的新时代，这类恶意软件能够感染智能冰箱、吸尘器以及各种其他物联网设备，并且更难被清除。
该公司表示，到明年，较小的 AI 模型或许能够在各类物联网设备上自主自我复制。最终，这种能力可能催生出计算机蠕虫——它们无需人类交互即可传播，并能感染不熟悉的物联网设备。该公司最近进行的一项实验揭示了将这种 AI 恶意软件复制器变为现实所面临的重大挑战，因此这一发现必然有所保留。尽管如此，结果仍引发了人们对新型计算机蠕虫可能性的担忧。
难以关闭
Anthropic 进一步警告称，不仅存在这种新型潜在恶意软件，而且它可能难以阻止。在其博客文章中，该公司写道：“像这样的复制器将难以关闭，因为不存在可供关闭的集中点——尽管它可能很慢（倍增时间为数天）。与非 AI 恶意软件不同，它还能自行识别不熟悉的设备。”
来源：Ars Technica · AI · arstechnica.com