Google 称自我改进 AI 仍遥不可及

Google 工程师 Haydn Belfield 表示，尽管大规模自动化已在发生，但可自我改进的 AI 仍遥遥无期。

据 Belfield 称，Google Deepmind 并未观察到由 AI 自身驱动的 AI 研究出现可衡量的加速。但这并不意味着大规模自动化没有发生：如今 AI 编写了超过 75% 的生产代码。不过据 Belfield 称，约 88% 的代码变更仍需人工监督或审查，且每一处变更在提交前都需经人工审核。完全交由 AI 处理的代码变更比例从 7.5% 上升至 11.9%。

The more complex and time-consuming a task gets, the less likely AI is to handle it on its own. Across 1,389 internal Argon agent runs, the success rate without human input dropped sharply as complexity increased. Humans remain essential for creative research, novel experiment design, diagnosing subtle training instabilities, and long-term planning, Belfield said. A survey of twelve senior Deepmind researchers confirmed the pattern, with automation running highest for well-defined, verifiable tasks and lowest for open-ended scientific ideation.

在 Deepmind 的内部基准 RE-Bench（包含 74 项真实的机器学习工程任务）上，Argon 能解决约一半。这相比 Gemini 3.7 Flash 的 27% 是一大跃升，但距离完全自动化所需的近乎完美表现仍相去甚远。

Google 自身的能力指数显示 AI 研究并未加速

为了系统地追踪进展，团队构建了一个通用能力指数（GCI），涵盖 123 个模型和 92 个基准。Gemini 模型能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。团队将 Gemini 4 Argon 略高于趋势线归因于更多的算力和组织投入，而非 AI 驱动的加速。

团队目前将 AI 驱动研究自动化带来的风险评为低，但正在构建测量基础设施，以追踪未来加速的迹象。

Belfield 的发现与近期研究一致，但并非该领域所有人都认同。包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 的 Jakub Pachocki 在内的 20 多位 AI 研究人员，最近在一篇研究论文中警告可能出现“智能爆炸”。他们认为，AI 系统可能在未来几年内自动化所有 AI 研发工作，将通常需要数年的进展压缩到短短几个月。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六次独家“AI Radar”前沿报告、完整档案访问以及评论区访问权限。