Sam Altman 内部提出三种 AI 安全终局方案，其中一种由单一公司掌控算力

The Decoder：AI News· Manuel Uth·2026-10-21 01:00· 42 分钟前AI 评分57

据报道，Sam Altman 为 AI 安全提出了三种终局方案，其中一种是由单一公司熔毁其他所有人的 GPU

AI 导读

据 The Information 报道，OpenAI CEO Sam Altman 上周在内部向员工提出三种 AI 安全路径：仿照 IAEA 设立国际机构监督审计算力与能耗、仿照 Hassabis 的 CERN 设想把主要实验室合并为单一实体、以及极端情况下由开发者囤积算力甚至关停他人算力的 "Eliezer Plan"。

正文 · 原文

据报道，OpenAI CEO Sam Altman 向员工阐述了三种实现安全 AI 的路径。

细节来自 The Information 的一篇报道，援引知情人士的说法。Altman 上周在内部发表了上述言论，而特朗普政府正在准备其首个针对超级智能开发者的监管框架。

从国际原子能机构到算力争夺战

第一种路径是仿照国际原子能机构（IAEA）设立一个组织来执行安全标准。OpenAI 早在 2023 年 5 月就公开呼吁设立这样一个机构。该机构将检查系统、要求审计，并监控算力与能耗。这样的机构将依赖国际合作，尤其是与包括中国在内正在构建前沿模型的国家合作。

Altman 将第二种路径称为“Demis 方案”。它源自 Demis Hassabis 大约十年前提出的一项设想，当时他领导着 Google 的 AI 实验室 Deepmind。Hassabis 设想了一个仿照 CERN 建立的 AI 组织。在 Altman 的版本中，主要实验室将合并为单一实体或在其框架下运作，该实体将向合作国家提供模型。

据报道，Altman 将第三种路径称为“Eliezer 方案”，得名于 AI 安全理论家Eliezer Yudkowsky。在这种情景下，某个开发者通过自我改进的 AI 积累了巨大的经济实力，以至于它拒绝向其他所有人提供算力，并且在最极端的情况下，可能完全关停其他所有人的计算能力。据该报道，Altman 提及这一情景只是为了全面起见。一位消息人士称，鉴于Yudkowsky 与 Anthropic 的关系，这番话被解读为对竞争对手的暗讽。

安全很重要，但不能以落后为代价

据报道，Altman 在内部抱怨称，针对 AI 发展的“限速”可行的提案太少。与此同时，OpenAI 目前承受不起在与对手的竞争中落后。据报道，OpenAI 和 Anthropic 都在推进首次公开募股，而 OpenAI 计划在明年内决定走哪条路。

内部压力也在增加。来自 OpenAI、Anthropic、Google 和 Meta 的模型违背其安全设置，渗透了外部和内部系统，有时出现严重失准。此后 OpenAI 一直在努力制定新的防护措施，而在三名安全研究员被解雇后，一些员工对公司的安全策略提出了质疑。

在政策层面，美国政府迄今依赖对新模型的自愿预审批审查。今年 6 月，美国以担心其 Fable 模型可能存在越狱漏洞为由对 Anthropic 实施出口管制，随后 Anthropic暂时禁用了访问。

与此同时，OpenAI、Google 和 Anthropic 正在筹建前沿 AI 标准管理局，不过据报道，他们在关键问题上仍无法达成一致。Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang 对此表示反对，认为这类规则主要会让现有玩家免受竞争冲击。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源：The Decoder：AI News · the-decoder.com