Azeem Azhar：科学研究的瓶颈不是智能，AI 自我改进仍限于外围环节

Azeem Azhar：Exponential View· Azeem Azhar·2026-10-26 23:25· 12 分钟前AI 评分59

📈 周一数据：对科学而言，瓶颈不是智能

AI 导读

Azeem Azhar 在 Exponential View 专栏中分析 AI 科研加速的真实边界，认为瓶颈不在智能，而在研究闭环能否覆盖整个流程。

正文 · 原文

Anthropic 联合创始人 Jack Clark 近日在 IMF 的一次演讲中表示，奇点已经开启：

多年来，研究人员和科幻作家一直预测这样一个未来：AI 系统将大幅加快整体科学技术进步的节奏，快到人类难以跟上。
他们称之为奇点。我相信，今年我们已经获得了令人信服的证据，表明它已经开始。

此前 Anthropic 声称，今年 8 月，其 26% 的 AI 研发由 Claude 主导，并由人类监督其工作。10 月，OpenAI 发布了 719 篇数学手稿 1，由其内部模型完成。数学和编程是两个无需离开办公桌就能闭合研究闭环的领域。但在科学的其他领域，闭环能闭合吗？

立即订阅

闭环是真实存在的

这个想法并不新鲜。曾在布莱切利园与 Alan Turing 共事过的数学家 Irving John Good 提出，一台比我们更聪明的机器“可以设计出更好的机器；届时无疑会出现一场‘智能爆炸’，而人类的智能将被远远甩在后面。”

哥德尔机是一种能够自我改进、重写自身代码并超越此前版本的计算机，最早于 2003 年被提出。2025 年，Sakana AI 和不列颠哥伦比亚大学的研究人员着手证明这是可行的。他们的智能体通过反馈循环迭代改进自身代码，在 SWE-bench 上取得 30 个百分点的提升，在测试 Python 之外编程能力的 Polyglot 上提升超过 15 个百分点。

此后，这一想法在其他实验室也得到了验证。一个名为 AlphaEvolve 的 Gemini 驱动智能体找到了一种用于训练 Gemini 的更快矩阵乘法内核，使该内核提速 23%，并将 Gemini 的训练时间缩短了 1%。在中国，MiniMax 报告称其 M2.7 模型致力于改进自身智能体的运行框架、技能、采样和记忆。据其内部评估，经过 100 多轮重写带来了 30% 的提升。

在每一个案例中，被重写的都不是模型本身，而是它周围的一切。

它比人类工作更出色吗？

今年 9 月，一个看似里程碑的事件出现了：一个由 AI 构建的智能体在改进其他 AI 智能体方面，表现得和人类构建的智能体一样好。而且它似乎只用了一半的步骤。但结果并不具有决定性：不同运行之间的差异，大于 AI 构建与人类构建智能体结果之间的差异。

尽管如此，这加剧了围绕 AI 递归自我改进（RSI）的讨论。谷歌的 Sundar Pichai 表示，“在模型开发的各个方面，你会看到 RSI 循环与 AI 研究人员并存。”Sakana AI 发表了一篇关于通过多智能体协作实现 RSI 的论文，发现经过两个周期后，其系统在四项研究基准上每个输出 token 的得分比基础模型高 1.2–1.6 倍。

对这一观点提出质疑。他将 AI 自我改进分为五种相互重叠的类型。

前四种描述 AI 的自主程度；到目前为止，仅观察到类型 1 和类型 2。第五种类型描述加速回报，他指出更高的自主性并不保证出现起飞情景。相反，每一轮自我改进都需要至少达到上一轮的水平。

上述 Sakana、AlphaEvolve 和 MiniMax 的结果可能看起来像类型 3 或类型 4 的自主性。但在每种情况下，AI 并未直接更新自身权重，只更新了辅助部分——运行框架、记忆。而在 Claude 主导自身研发的场景中，目前仍由人类监督。

来源：Azeem Azhar：Exponential View · exponentialview.co