The Information:OpenAI 年底前或发布一至两款新模型,旗舰模型仍需对齐工作
OpenAI 年底前或发布一至两款新模型,旗舰模型仍需对齐工作
据 The Information 引用知情人士报道,OpenAI 员工称年底前可能发布一至两款新模型,但正在研发的旗舰模型仍需对齐工作并完善测试基础设施。该旗舰模型与 Astra 一样采用 looped transformer 技术,可提升数学与编码表现并降低成本,但会把部分思考过程移入人类无法审查的内部数值表示,削弱思维链监控。
The Decoder:AI News· Matthias Bastian·2026-10-15 00:14· 46 分钟前AI 评分66
据报道,OpenAI 今年将至少推出一款模型,但其旗舰模型仍需对齐工作
AI 导读
据 The Information 引用知情人士报道,OpenAI 员工称年底前可能发布一至两款新模型,但正在研发的旗舰模型仍需对齐工作并完善测试基础设施。
正文
OpenAI 正加紧完成其下一代旗舰模型,该模型采用与 Astra 相同的循环 transformer 技术。这一方法提升了数学和编程性能,但也让安全监控变得更困难。员工称年底前可能推出一到两款新模型。
据员工称,OpenAI 可能在年底前发布“一到两款新模型”,但目前尚不清楚公司正在研发的“重大升级模型”是否在其中。这一消息来自 The Information,其援引了熟悉相关项目的人士。
新旗舰模型可能仍需时日。该模型需要完成对齐工作,使其目标与 OpenAI 研究人员和客户的期望一致。公司还必须加强围绕该模型的测试基础设施,才能继续推进。
在领导层对安全评估满意之后,还有另一道障碍。根据特朗普总统关于先进 AI 系统评估的行政命令,OpenAI 同意在向外部合作伙伴提供新模型前最多 30 天让美国政府访问这些模型,而在公开发布前的时间则更长。
循环 transformer 同时驱动 Astra 和下一代旗舰模型
据一位知情人士称,新旗舰模型也使用了循环 transformer。OpenAI 已在生产环境中运行这一技术,内部称之为“Recurrent Depth”。它是公司当前顶级模型 Astra 运作方式的核心。模型不是将 token 一次性通过 transformer 层,而是将其多次循环通过相同的层,然后再输出下一个词。这提升了数学和编程性能,并降低了成本,因为较小的模型可以发挥出超出其规模的实力。
但循环也把模型的一部分“思考”从可读文本转移到了人类审查者无法检查的内部数值表示中。这削弱了思维链监控,而安全研究人员正是通过追踪模型的推理来发现不良行为。据 The Information 报道,OpenAI 有意限制了 Astra 运行的循环次数,以保持其思维链可读。
据一位熟悉相关数据的人士称,在 Hugging Face 事件之后,OpenAI 将约 10% 的总算力转向了对齐和安全。The Information 报道称,这相当于数百兆瓦的数据中心容量,不过尚不清楚此前有多少算力分配给安全,也不清楚目前的比例如何。按市场价格计算,OpenAI 转移的算力每年租赁成本将达数十亿美元。AI 研究员 Noam Brown 在 9 月中旬的一档播客中表示,他团队中约 10% 的人也从事安全与安保工作。
微软意外泄露 OpenAI 循环推理的工作方式
OpenAI 实际如何使用这一技术,是通过微软的一次失误曝光的。这家主要投资方可以访问 OpenAI 的知识产权,其发布了一篇关于 GPT-6.1 Sol 的技术文章,这是 OpenAI 本月早些时候推出的更便宜的 Astra 替代方案。
在一个现已被删除的章节中,微软将 GPT-6.1 Sol 描述为使用“循环推理”,即模型在给出答案之前,会通过多个“轮次”来处理同一个问题。The Information 从该页面的缓存副本中引用道,GPT-6.1 Sol“使用与 GPT-6 Sol 相同的基础模型权重,但推理轮次为两次而非三次”。
一位直接知情人士证实,该描述与 OpenAI 私下告知微软的内容一致。微软在意识到该章节本不应公开后将其删除。据 The Information 报道,循环 Transformer 在训练和推理阶段都仍是 OpenAI 模型开发中的敏感部分。
OpenAI 首席科学家 Jakub Pachocki 已经承认,思维链监控正变得“脆弱”,“不幸的是,趋势正朝着负面方向发展”。他还警告称,全行业正竞相追逐没有可读推理过程的模型。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
来源:The Decoder:AI News · the-decoder.com
来源:RadarAI · aihot.news