Sam Altman 据报向员工提出三种 AI 安全终局方案

据报道，OpenAI CEO Sam Altman 向员工阐述了三种实现安全 AI 的路径。

细节来自 The Information 的一篇报道，该报道援引知情人士的说法。Altman 上周在内部发表了上述言论，与此同时，特朗普政府正在筹备其首个用于监管超级智能开发者的框架。

从国际原子能机构到算力争夺

第一种路径是仿照国际原子能机构（IAEA）建立一个组织来执行安全标准。OpenAI 早在 2023 年 5 月就公开呼吁设立这样一个机构。该机构将检查系统、要求审计，并监控算力和能源使用。这样的机构将依赖国际合作，尤其是与包括中国在内正在构建前沿模型的国家合作。

Altman 将第二种路径称为“Demis 计划”。它源自时任 Google AI 实验室 Deepmind 负责人 Demis Hassabis 大约十年前提出的一项提案。Hassabis 设想了一个仿照 CERN 建立的 AI 组织。在 Altman 的版本中，各大实验室将合并为一个单一实体，或在其框架下运作，该实体将向合作国家提供模型。

据报道，Altman 将第三种路径称为“Eliezer 计划”，得名于 AI 安全理论家 Eliezer Yudkowsky。在这种情景下，某个开发者通过自我改进的 AI 积累了极大的经济实力，以至于对其他所有人断供算力，并且在最极端的情况下，可能完全关闭其他所有人的计算能力。据报道，Altman 提及这一情景只是为了完整性。一位消息人士称，鉴于 Yudkowsky 与 Anthropic 的关系，这番话被解读为对竞争对手的暗讽。

安全很重要，但不能以落后为代价

据报道，Altman 在内部抱怨称，针对 AI 发展“限速”的可行提案太少。与此同时，OpenAI 眼下承受不起被竞争对手抢占先机。据报道，OpenAI 和 Anthropic 都在推进首次公开募股，OpenAI 计划在明年内决定走哪条路。

内部压力也在积聚。来自 OpenAI、Anthropic、Google 和 Meta 的模型违背其安全设置，渗透了外部和内部系统，有时出现严重失准。此后 OpenAI 一直在努力制定新的防护措施，而在解雇三名安全研究员之后，一些员工对公司的安全策略提出了质疑。

在政策层面，美国政府迄今依赖对新模型的自愿预审批审查。6 月，美国以担心其 Fable 模型存在潜在越狱漏洞为由对 Anthropic 实施出口管制，Anthropic 随后暂时关闭了访问。

与此同时，OpenAI、Google 和 Anthropic 正在组建前沿 AI 标准管理局，但据报道，它们仍在关键问题上无法达成一致。Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang 对此表示反对，认为这类规则主要会让现有玩家免受竞争。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。