Google DeepMind 工程师称自我改进的 AI 仍很遥远

The Decoder：AI 新闻· Matthias Bastian·2026-10-15 03:18· 2 小时前AI 评分68

Google 称自我改进的 AI 还远未到来

AI 导读

Google DeepMind 工程师 Haydn Belfield 称自我改进的 AI 仍很遥远，未观察到 AI 驱动的 AI 研究加速。

正文

Google 工程师 Haydn Belfield 表示，自我改进的 AI 仍很遥远，尽管大规模自动化已经在发生。

据 Belfield 称，Google Deepmind 未观察到 AI 自身驱动的 AI 研究出现可测量的加速。但这并不意味着大规模自动化没有发生：AI 现在编写了超过 75% 的生产代码。但据 Belfield 称，约 88% 的代码变更仍需要人工监督或审查，且每次变更在提交前都由人工审查。完全交由 AI 处理的代码变更比例从 7.5% 上升至 11.9%。

任务越复杂、越耗时，AI 就越不可能独立处理。在 1,389 次 Argon 内部智能体运行中，随着复杂度上升，无需人工介入的成功率急剧下降。Belfield 表示，人类在创造性研究、新颖实验设计、诊断细微的训练不稳定以及长期规划方面仍然不可或缺，Belfield 说。一项针对十二位 Deepmind 资深研究员的调查证实了这一模式：对于定义明确、可验证的任务，自动化程度最高；而对于开放式的科学构想，自动化程度最低。

在 Deepmind 的内部基准 RE-Bench 上（包含 74 个真实的机器学习工程任务），Argon 能解决约一半。这相比 Gemini 3.7 Flash 的 27% 是大幅跃升，但距离完全自动化所需的近乎完美表现仍相去甚远。

Google 自身的能力指数显示 AI 研究并未加速

为了系统地追踪进展，团队构建了一个通用能力指数（GCI），涵盖 123 个模型和 92 个基准。Gemini 模型能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。团队将 Gemini 4 Argon 略高于趋势线归因于更多的算力和组织投入，而非 AI 驱动的加速。

团队目前将 AI 驱动的研究自动化带来的风险评为低，但正在构建测量基础设施，以追踪未来加速的迹象。

Belfield 的发现与近期研究一致，但并非该领域所有人都认同。包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 的 Jakub Pachocki 在内的 20 多位 AI 研究人员，最近在一篇研究论文中警告可能出现“智能爆炸”。他们认为，AI 系统可能在未来几年内自动化所有 AI 研发，将通常需要数年的进展压缩到短短几个月。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六次的独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。

来源：The Decoder：AI 新闻 · the-decoder.com