微软 CEO Nadella 称应假定所有 AI 模型都已被攻陷
Satya Nadella says we should assume all AI models are ‘compromised’
微软 CEO Satya Nadella 在 X 发布长文，称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行动，主张建立可隔离、可观测并留下防篡改人类可读证据的透明系统。
微软 CEO 呼吁给 AI 装上“紧急刹车”。
微软 CEO 呼吁给 AI 装上“紧急刹车”。
作者 Terrence O'Brien
2026年10月10日 22:10 UTC
图片：Cath Virginia / The Verge，Getty Images
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业超过 18 年，对合成器也颇有了解。
在 X 上的一篇长文中，微软 CEO 阐述了他对高度先进 AI 模型所带来危险的看法，以及如何应对这些风险。Nadella 表示，我们不能再接受这样一个世界：AI 被视为“一组嵌套的黑箱”，其建议和行动我们只能接受或拒绝。他呼吁建立一个更透明的系统，让模型可以被约束、被观察，并留下“防篡改、人类可读的证据”。
他的许多建议与我们从业内其他人那里听到的一致：及时披露事件、独立审计、可验证的数据以及约束。正是在最后一点上，他似乎比该领域的一些人走得更远，他说：
我们必须假设模型已被攻破，并从一开始就对其进行约束。把它想象成紧急刹车。授权人员应始终能够在模型执行任务中途暂停或关闭它。更先进的模型将需要更先进的约束技术，而我们需要将其标准化。
遗憾的是，Nadella 在整篇文章中还将 AI 称为“超级智能”。
关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。
- Terrence O'Brien
来源：The Verge · AI · theverge.com