Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制
Microsoft CEO Satya Nadella 在 X 发文提出，需要重新评估 AI 的信任架构，不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护，为每个关键模型动作留下防篡改的人类可读证据，并让授权者能随时在任务中途暂停或关闭模型，比喻为紧急刹车。
TechCrunch：AI· Anthony Ha·2026-10-11 05:47· 50 分钟前AI 评分56
Microsoft 的 Satya Nadella 表示，AI 模型需要“紧急刹车”
AI 导读
Microsoft CEO Satya Nadella 在 X 发文提出，需要重新评估 AI 的信任架构，不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据，并让授权者能随时在任务中途暂停或关闭模型，比喻为紧急刹车。
正文
简讯
发布于：
2026 年 10 月 10 日下午 2:47（太平洋夏令时）
Microsoft CEO Satya Nadella 是最新一位就如何改进 AI 安全发表长篇思考的科技高管。
在周六早上发布于 X 的一篇帖子中，Nadella 写道，是时候“退后一步，评估 AI 的信任架构”了。
“我们不能把超级智能当作一组层层嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动，”Nadella 写道，他使用了特朗普政府对 AI 的首选称呼。
正如 Nadella 所概述的，这种方法“意味着将模型与编排其工作的 harness 分离”，以及“将控制与安全防护外置”。他还呼吁为“每一个有意义的模型动作”留下“防篡改的人类可读证据”，并建立这样的系统：“授权人员”始终有能力“在任务中途暂停或关闭模型”。
“我们必须假设模型已被攻破，并从一开始就将其遏制住，”他说。“把它想象成紧急刹车。”
Nadella 发表上述言论之际，领先的 AI 公司正承认越来越多它们似乎失去对模型控制的事件，此前Anthropic CEO Dario Amodei 也发布了一份计划，主张更谨慎地开发 AI。
来源：TechCrunch：AI · techcrunch.com
来源：RadarAI · aihot.news