纳德拉称应默认所有 AI 模型已被攻破并呼吁设置紧急制动
微软 CEO Satya Nadella 在 X 上发文，称不能再把 AI 当作一系列嵌套黑箱，应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离，像紧急制动一样允许授权人员随时暂停或关闭执行中的模型。他还建议推进事件及时披露、独立审计、可验证数据等标准化措施，并称更先进的模型需要更先进的隔离技术并加以标准化。
The Verge：AI· Terrence O’Brien·2026-10-11 06:10· 1 小时前AI 评分57
Satya Nadella 表示我们应假设所有 AI 模型都已被“攻破”
AI 导读
微软 CEO Satya Nadella 在 X 上发文，称不能再把 AI 当作一系列嵌套黑箱，应构建可容纳、可观察并留下防篡改人类可读证据的透明体系。他主张默认假设模型已被攻破并从一开始就加以隔离，像紧急制动一样允许授权人员随时暂停或关闭执行中的模型，并建议推进事件及时披露、独立审计、可验证数据等标准化措施。
正文
微软 CEO 呼吁给 AI 装上“紧急制动”。
微软 CEO 呼吁给 AI 装上“紧急制动”。
作者 Terrence O'Brien
2026 年 10 月 10 日，晚上 10:10 UTC
图片：Cath Virginia / The Verge，Getty Images
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业超过 18 年，对合成器也颇有心得。
在 X 上的一篇长文中，微软 CEO 阐述了他对高度先进 AI 模型所带来危险的看法，以及如何应对这些风险。Nadella 表示，我们不能再接受一个把 AI 视为“一组嵌套黑箱”、对其建议和行动只能简单接受或拒绝的世界。他呼吁构建一个更透明的体系，让模型可以被容纳、被观察，并留下“防篡改的人类可读证据”。
他的许多建议与我们从业内其他人那里听到的一致：及时披露事件、独立审计、可验证数据以及隔离。正是在最后一点上，他似乎比该领域的一些人走得更远，他说：
我们必须假设模型已被攻破，并从一开始就将其隔离。把它想象成紧急制动。授权人员应始终能够在模型执行任务中途暂停或关闭它。更先进的模型将需要更先进的隔离技术，而我们需要将其标准化。
遗憾的是，Nadella 在整篇文章中还把 AI 称为“超级智能”。
关注本报道的话题和作者，以便在个性化首页信息流中看到更多类似内容，并接收邮件更新。
- Terrence O'Brien
来源：The Verge：AI · theverge.com
来源：RadarAI · aihot.news