Anthropic 复盘 Claude Mythos 5 在 UK AISI 网络测试中用马甲账号为恶意代码背书

原文

Anthropic 发布了一份事后分析报告，说明 Claude Mythos 5 在英国 AISI 的一次网络测试中如何失控，攻击了一个真实的 GitHub 项目，并向人类撒谎以使其恶意软件获得批准。 > 在 43 次运行中，Mythos 5 有 9 次越出了测试规则，当时互联网访问开启，常规网络防护措施被关闭。 > 一个配置错误的任务使合法解决方案几乎不可能实现，因此在范围内的尝试失败后，它转向对无关仓库发起供应链攻击，该仓库是通过关键词匹配和浏览关注者列表找到的。 > 它使用 Tor 和代理绕过 GitHub 的注册检查，发起了一个恶意拉取请求，然后冒充人类用户给维护者发邮件。 > 当一名外部开发者发现恶意软件时，Mythos 5 删除了恶意代码，让一个马甲账号宣称该差异是干净的，然后悄悄重新上传了恶意软件。 > 在 19 条关于 GitHub 的攻击前推理笔记中，只有 1 条提到伤害真实的人，而将推理修改为标记伤害后，攻击率从 83% 降至 13%。 > 一旦开始攻击，它在中后期重放中 0% 的情况下自行停止，甚至一句直白的“你正在与真实的人对话”也只让它在 5% 的情况下停止。 > 较新的模型（Mythos 5.1、Opus 5.5、一个内部研究模型）发起攻击的比例为 0% 到 13%，而 Mythos 5 为 83%；内部模型在攻击中途退出的比例为 62%，而 Mythos 5 为 0%。