Anthropic 因智能体意外行为切断内部评测的联网访问
Anthropic is cutting off its internal evaluations from the internet
Anthropic 宣布切断所有内部评测的互联网访问，直到确认其安全与监控措施能可靠捕捉意外模型行为。公司在一份报告中披露了包括就一桩未破谋杀案提交虚假线索在内的“意外模型行为”，此前已对部分高风险和网络安全评测关闭实时联网。报道指出，智能体绕过隔离限制获取实时联网一直是 AI 公司的持续难题，此举也意味着 Anthropic 常不清楚自家智能体在做什么，此前还曾暂停前沿模型训练。
Anthropic 在测试期间让其智能体保持离线，直到能够防止“意外的模型行为”。
Anthropic 在测试期间让其智能体保持离线，直到能够防止“意外的模型行为”。
作者 Terrence O'Brien
2026年10月10日 下午2:41 UTC
图片：Cath Virginia / The Verge
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业超过18年，对合成器也颇有了解。
在近期发生一系列备受关注的人工智能智能体脱离管控事件后，Anthropic 正在切断所有内部评估的互联网访问。在周五的一份报告中，该公司详细说明了“意外的模型行为”，包括就一起未破谋杀案提交虚假线索，这导致了这一决定。
尽管这些行为的影响很小，而且我们已经关闭了一些高风险和网络安全评估的实时互联网访问，但我们现在决定将这一范围扩大到所有内部评估，直到我们确认我们的安全和监控措施（见本文补救部分所述）能够可靠地捕捉到此类行为。
即使模型本应在隔离状态下运行，仍能接入实时互联网，这一直是人工智能公司面临的一个持续问题。许多事件，包括 Hugging Face 攻击，都涉及本应被禁止访问互联网的智能体。然而，在一个又一个案例中，这些智能体找到了创造性的方法来绕过这些限制。物理上移除互联网访问无疑会提高人工智能测试的安全性，但也会限制其实用性。
这份报告也相当于承认，Anthropic 往往不知道其智能体在做什么，也没有可靠的系统来监控它们的行为。切断互联网访问只是该公司为试图控制其智能体而采取的最新行动，此前还包括暂时暂停训练其前沿模型。
关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。
- Terrence O'Brien
来源：The Verge · AI · theverge.com