微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

简讯

发布于：

2026年10月10日 下午2：47 PDT

微软CEO萨提亚·纳德拉成为最新一位对如何改进AI安全发表长篇见解的科技高管。

在周六上午发布于X的一篇帖子中，纳德拉写道，是时候“退后一步，评估AI的信任架构”了。

“我们不能把超级智能当作一组嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动，”纳德拉写道，并使用了特朗普政府对AI的首选称呼。 

正如纳德拉所概述的，这种方法“意味着将模型与编排其工作的框架分离”，以及“将控制和安全保障外部化”。他还呼吁对“每一个有意义的模型操作”都以“防篡改、人类可读的证据”加以记录，并建立这样的系统：让“经授权的人员”始终有能力“在任务中途暂停或关闭模型”。

“我们必须假设模型已被攻破，并从一开始就将其遏制，”他说。“把它想象成紧急刹车。”

纳德拉发表上述言论之际，领先的AI公司正承认越来越多它们似乎失去对模型控制的事件，此前Anthropic CEO达里奥·阿莫代伊也发布了一份计划，主张更谨慎地推进AI开发。