AI 与科学的未来：当机器比人类更擅长研究

关于生命意义的序言

让我先承认一件有点尴尬的事。我的工作是我生命中意义的一个关键来源。不是那种“我觉得我在许多人的生活中扮演着重要角色”的方式，而是更存在主义的。

当我高中毕业，不得不思考我的人生要做什么时，我决定学习物理和哲学。我选择这两门，是因为我渴望找到某种生命的意义……并且觉得这两门是我最好的选择。

我早已放弃寻找生命、宇宙和一切的意义。但学习物理给了我一些相关的东西。这是一个不那么宏大的使命，它不同，但它仍然赋予我的生命意义：为科学做贡献（即使是以我自己微小的方式）是为人类理解宇宙及其一切宏伟事业做贡献的一种方式。而这很有意义。

我们甚至还没有到为什么我们在这里的地步；我们仍在研究世界是如何运作的。但我认为如何是第一步，这足以赋予我的生命意义。即使我知道我们在我有生之年不会接近答案，即使我知道我的贡献在这个大项目的宏伟蓝图中只是微不足道的一小点。

我认为，当你阅读这篇帖子的其余部分时，记住我为什么觉得作为科学家的工作有意义这种理解很重要。

开始

引发这一切的是 Joe Bak-Coleman 的以下帖子：

当我看到它时，我的第一反应大致是“我理解那些科学家。我认为研究 AI Science ¹ 实际上符合科学精神。”如果我们能加速令人兴奋的发现的速率，或者（在未来的某个时候）提出人类甚至无法想象的新见解，那将是惊人的。

我不仅认为学者研究 AI Science 是否能成为现实是正确的，我还认为这是勇敢的。（明确地说，我在这里谈论的是学者；那些巨头公司有它们自己险恶的理由。）但对于一个在职科学家来说，从事可能意味着你一生工作的全部意义可能被抹去，并且赋予你生命意义的东西（做科学）可能被外包给计算机的工作，是勇敢的。

所以这就是我在这里要做的。我将拆解上述想法，并详细调查 AI Science 的概念。

这是一个有争议的话题，所以在我开始之前有一个重要假设：我正在讨论 AI 实际上比人类更擅长做研究的未来场景。

我明白有人争论我们永远不会达到那一点，我认为那些论点可能是对的。但我不会在这里讨论利弊；这超出了这篇帖子的范围 ²。我甚至承认，如果 AI 不比人类更好，那么我们就不应该让它们靠近科学，或者至少只能以最大的怀疑态度使用它们。（还有几个注意事项，但我把它们放在末尾的细则中，这样你可以继续阅读。）

关于我的假设，最后再说一点。更好并不一定意味着绝对可靠。人类研究者也并非绝对可靠，这正是我们需要科学方法来检验和验证结果的原因。问题在于，当产出者是机器时，这种检验会是什么样子；下文会进一步讨论。

分界

在谈科学之前，先说说艺术（比如小说写作、绘画、电影），因为我认为两者之间的联系很重要。在艺术方面我是个极端主义者。我个人只想要人类创作的艺术，而且基本上已经不再读2023年之后出版的书了（原因见这篇文章）。对我来说，艺术关乎分享人类经验，所以机器创作的艺术从定义上就不有趣。

科学则不同。这里一切都关乎我在前言中谈到的那个项目。让我解释一下。

我认为科学活动大致可以分为两部分：a）技术成分：制造器械和机器、治愈疾病之类的事情；b）认知成分：扩展人类知识：想想量子力学、相对论……弄清宇宙的运行机制。

先说技术成分，我认为这多少没什么争议：我们想要尽快获得最好的技术，而研究是由人类还是AI完成的并不重要，只要管用就行。如果所爱之人正因癌症而濒死，大多数人只想要能治愈他们的科学方案³。我知道我也会这样。

认知成分才是我想要关注的重点。我的观点是（与我在前言中阐述的科学观相关），科学应当为人类创造洞见⁴。

只作为AI内部的痕迹或由AI产生的洞见毫无意义。我希望知识存在于人类的大脑中。让宇宙对人类的意识而言（更加）可理解。为了人类。

如果机器率先声称拥有知识，能够帮助人类对宇宙获得新的理解，那么我也想要那样。

我热爱发现的兴奋感。我几乎热爱科学和身为科学家的每一个方面。但在我看来，科学事业与我个人无关。它关乎人类理解自己在宇宙中的角色。如果我不担任研究者角色反而运作得更好，那么让开就是我的责任⁵。

唉。

新形势：从发现走向理解

杰出的数学家陶哲轩写了很多关于AI的文章。他的视角尤其有趣，因为数学目前正是我们所讨论的情形最接近已然成真的领域。所以下文我将大量借鉴他的想法作为出发点。

以下是陶哲轩2026年2月在《大西洋月刊》上对形势的描述。

这些问题就像你要徒步前往的遥远地点。 而在过去，你必须踏上旅程。 你可以留下路标供他人跟随，也可以绘制地图。

这是一个美丽的意象。科学家作为知识新大陆的探索者。如果我们把它推广到整个科学，就得到下面图A中的意象。在图1A中，我把我们现有的知识展示为一片地形（左下角），而尚未知晓的前沿大致沿着对角线向下延伸。

至关重要的是，发现与人类理解在图景中同步推进。人类知识增长的方式，正是发现与理解齐头并进、协同前行⁶。

我对AI科学带来的新局面的理解（以及数学领域当前似乎正出现的情形⁷）是：知识地图上出现了一个新区域！我在图1B中展示了这一情形。

在这个区域里，我们面临一个全新的局面：发现的前沿与理解的前沿可以彼此分离。这开辟出一个极其有趣的新领域——AI已经发现了关于宇宙的新洞见，但还没有任何人类理解它。这是个复杂的地方，我们稍后再谈。但下文我会多次提到它，所以先给它起个名字。沿用地图的比喻，我称它为“未认领的领地”⁸。

当我们把它与科学的认识论成分联系起来时，宇宙中大量尚未被理解的方面的存在，可能会被解读为某种可怕的东西。在同一次采访中，陶哲轩凭直觉意识到了未认领领地的存在，只是没有明说。他说：

AI工具就像乘直升机把你空投到现场。 你错过了旅程本身带来的所有益处。你直接 抵达终点，而终点其实只是解决这些 问题的价值的一部分。

这里有一个类似的观点（出自今年九月Mathstodon上的一篇帖子）

但现代AI工具，若在没有此类专家监督的情况下被指挥，如今极易被对准该领域的表面目标，而没有任何动力去走那条缓慢、随性的路径。旗帜被夺下，目标被攻入，问题被解决；但代价是学到的教训、获得的洞见、建立的合作以及找到的新目标。

陶哲轩还写了AI在数学中的严重错位⁹，宣称“AI公司的目标与数学界的目标严重错位”，并且这些问题“必须紧急加以解决”。

在这份宣言中，他说了一些非常有趣、与我自己观点一致的话：

近几个月来，AI在解决重大 数学问题上的成功，甚至在数学圈之外 也登上了头条。但解决问题只是实现 概念性理解与洞见这一首要目标的 工具和代理。 （着重号为笔者所加）

这正是认识论成分。陶哲轩和我都认同人类理解与洞见这一目标。

未认领的领地可能对科学计划大有裨益！

但我们的分歧之处，或许正是我的论点变得有趣的地方。我认为，AI超越人类理解而进步，可能是一件大好事。

陶哲轩担心“证明消化不良”——证明被生成甚至被验证，却未被消化（=理解）。

但急什么呢？想象一片广阔的开放疆域，我们可以从容不迫地慢慢挖掘。我们不必跟上发现的步伐；我们可以以人类的节奏前进，一点一点地啃，直到知识被完全吸收。

考虑这个想法：如果探索这片无主之地其实很有趣呢？也许被直升机送进去、降落在山峰上并没有那么糟。我在图2中探讨了这个想法。在A面板中，我们看到陶哲轩对未消化洞见的看法：研究者被直升机送进去。

首先，能够降落在山峰上并不排除旧的方式。我认为我们可以而且应该保留“获得的洞见、形成的合作以及定位的新目标”。展望未来，意识到目标正是理解，意味着随着科学在这一新阶段演进，我们应当在各个方面强化这些方面。（一旦没有人必须徒步，我们如何让旧技能保持活力，这是一个真问题。我在附录2中回到这个问题。）

其次，这也是我认为在我们构想未来科学时需要更多思考的地方。无主之地的存在开辟了许多支持科学认识论成分的新的有趣方式。可能会有许多支持人类理解的新方式。用陶哲轩的比喻来说，人类仍然在徒步；只是从不同的步道起点出发。

所以乘直升机抵达并不一定跳过旅程；它提供了开始旅程的新地点。它还可能告诉你哪段旅程值得走，并给你一个可以徒步前往的目标¹⁰。

知道某件事是真的，以及它大致如何融入知识版图，就为理解那个问题打开了一扇新门。每个曾卡在一道题上、然后从书后答案倒推的学生都明白这一点。

我意识到从答案倒推听起来有负面意味，但在科学事业中不应如此。我们不是在课堂上争好成绩——目标是从宇宙中撬出秘密。任何方法都算数！

事实上，科学 确实 曾从结果反推，而且正如我上面提到的，这不仅仅是通过像青霉素那样的幸运意外。实验给了我们答案，而理论家们花了几十年才解释清楚。氢光谱线的巴尔末公式（1885年）等了28年才等到玻尔（1913年）¹¹。超导现象（1911年）等了46年才等到BCS理论（1957年）¹²。高温超导体（1986年）至今仍未得到完全解释¹³。

而在数学中，没有证明的结果带来激动人心的时代，这在历史上也并非闻所未闻。有拉马努金，他于1920年去世，年仅32岁，留下了写满结果却几乎没有证明的笔记本。数学家们花了一个世纪，愉快地跋涉回他的高峰；仅布鲁斯·伯恩特一人就写了五卷（1985–1998）来证明笔记本中的内容。或者还有老生常谈的费马定理。大约1637年，皮埃尔·德·费马在书页边角潦草地写道，他有一个绝妙的证明，但边角太窄写不下。那条笔记是一个结果，激励了数学家们358年，直到安德鲁·怀尔斯的证明于1995年发表。（更多关于费马的内容见下文。）

无主之地是人类心智玩耍的新场所

现在让我们更疯狂一点。我实际上认为，我们应该把无主之地视为一个无主的游乐场。我在上面论证过，它为我们提供了增加人类理解的完全新方式——而且有可供追求的结果可以振奋人类的心智。

但最重要的是，它也可能是一种老式的乐趣！有很多例子表明，我们不需要发现或某种“认知优先”才能获得乐趣。

• 谜题。人类热爱谜题。数独、填字游戏、Wordle，例子不胜枚举。它们都有答案，没有人认为这毁了它们。知道答案存在，甚至可以成为让寻找变得有趣的一部分。
• 国际象棋。1997年，一台机器击败了世界冠军，当时IBM的深蓝击败了加里·卡斯帕罗夫。如今，引擎远比任何人类都强大，但国际象棋从未如此受欢迎：Chess.com在2022年12月突破了1亿会员，整整一代棋手通过研究引擎学会了这个游戏。
• 围棋。认知科学家分析了1950年至2021年间职业围棋手做出的580万步棋（Shin等人，《PNAS》，2023年）。在2016年超人类围棋程序出现后，人类棋手开始做出明显更好的决策。而这种进步与新颖性齐头并进：棋手们开始走出从未有过的棋步，而这些新棋步越来越优秀。机器并没有让游戏变得无聊。它们把人类推离旧路径，进入地图的新区域。

认知勘测员

所以我主张，未来我们都会没事的。对于人类理解的增长、对于科学计划来说，这甚至可能是一个黄金时代。

但还有一个最后的问题。一旦发现的部分消失，焦点放在理解上，我们还算是研究者吗？我最好的回答是：可能不是。

当这个页面上线时，我正走上舞台参加一场辩论，我必须论证研究者的工作将在未来消失。这个立场是由辩论形式决定的。

我的策略是顺着下面的论点展开：未来“无主领地成果的理解者”这项工作与科学家今天所做的工作如此不同，以至于它值得一个新名字¹⁴。为了致敬那个核心隐喻，我想出了“认知测量员”这个说法，或者就简称为朴素的“测量员”¹⁵。

这是一种修辞手法，但给整个职业改名是不是太过分了？我其实不这么认为。

如果我们回顾工作史，许多职业因为技术让它们的核心任务变得过时而消失了。点灯人。接线员。电梯操作员。这个名单很长。

但请注意，大多数职业在工具改变时并不会消失。用电磁炉的厨师仍然是厨师。用机器人的外科医生仍然是外科医生。把绘图板换成软件的建筑师仍然是建筑师。

那么，消失的职业和没有消失的职业之间有什么区别？在留下来的职业中，工具变了，但职业的核心任务保持不变：决定人们吃什么、切开一个活体、想象一座建筑。当技术只改变工具时，职业的名称就能存续。

当技术改变核心任务本身时，职业就会消失。我想重点举的例子是计算机。

在电子计算机出现之前，“计算机”是一种职业描述。计算机就是进行计算的人：弹道表、恒星位置、早期数值科学背后长长的算术列。当电子计算机在20世纪40年代开始出现时，定义这一职业的任务在几年内就消失了。

但事情是这样的。（人类）计算机并没有回家。他们成了程序员。

ENIAC计算机的第一批六位程序员直接从从事弹道表工作的人类计算机群体中招募：Kay McNulty、Betty Jennings、Betty Snyder、Marlyn Wescoff、Fran Bilas和Ruth Lichterman。在NASA兰利实验室，Dorothy Vaughan看到IBM机器即将到来，自学了FORTRAN，然后教她整组人类计算机为这些机器编程¹⁶。

“计算机”这个职业消失了。这些人转入了一个围绕新瓶颈成长起来的新职业：不再是做计算，而是决定机器应该计算什么，并理解计算出来的结果。

所以关键在于，这个职业之所以改名，是因为他们所做事情的实质变了。

那么什么是研究者？根据Merriam-Webster的定义，研究是

旨在发现和解释事实的调查或实验，根据新事实修正公认的理论或定律，或对此类新的或修正后的理论或定律进行实际应用

注意其中的顺序和重点。发现是本质部分。解释也在其中，但被放在其后，这与二者同步推进的先入之见一致。

在新世界里，发现主要交给AI。一切都关乎理解和解释，这是一项全新的工作。这就是为什么我们不会成为研究者¹⁴。

测量员做什么？

那么测量员将做什么？测量员的工作生活是什么样的？我下面会提到一些例子，但我确信还有许多尚待发现。

我们先从下面这篇帖子说起。在我看来，这是 Andrej Karpathy 开始在无主之地上摸索工作方式。

我的一位朋友把学习如何与前沿模型协作并从中学习的过程称为与 AI 共舞。我认为我们当下的经历已经展现出人类如何从无主之地中挖掘出理解力的创造力。

我们也可以更系统性地审视这些工作变化。今天，研究大致是这样进行的：

question → search → discovery → understanding

在未来，我认为它会更像这样：

machine discovery → selection → interrogation → simplification → human understanding

选择关乎最初挑选问题。实际上将有无限多的新定理可供选择，每一个都经过机器验证且为真，而其中大多数都很无聊。勘测者的一个关键任务是判断哪些值得花时间¹⁷。（关于这带来的挑战，下文会进一步讨论。）

审问就是与 AI 共舞的那一面。盘旋式追问。从结果倒推。我认为这将会是有趣的部分。它会是什么样子？我们不知道；这部分才刚刚开始。我们所有旧有的技巧都会用上，但我估计它主要会是古怪而新颖的。（另一个可能的样貌示例见附录 1。）

最后是简化。基本上，我想象这是把发现更正式地连接到科学大厦的部分。它关乎找到让事物变简单的框架（如果它们能变简单的话），并想出沟通方式，让其他人能更容易接近这一结果。这就是我们记忆中的意义建构层面（Balmer 有一个能拟合四条谱线的公式；Bohr 找到了能解释其原因的原子）。

在上述路径的某个节点，理解降临了。先是直觉，然后是更坚实的东西，最后是真正掌握。想想 Bloom 的分类法¹⁸。

勘测者面临的新挑战？

无主之地未必全是田园牧歌、鲜花和开阔草地。正如许多聪明人已经担忧的那样，机遇之中夹杂着许多新挑战。我们上面谈到了 Terence Tao。人类学家 Lisa Messeri 和心理学家 Molly Crockett 早在 2024 年就在《自然》上发表了一篇关于科学中 AI 与理解力错觉的论文，远早于上述任何结果的出现。

面对这些挑战是勘测者工作职责的一部分。

上一节中“选择”一面的“阴暗面”是不堪重负。而且不只是前沿实验室在发布新结果。拥有人工智能代理的人类科学家也在以前所未有的规模生成更多（且更平淡¹⁹）的论文。arXiv 在 2015 年收到约 105,000 篇新论文，2025 年约 284,000 篇，而仅今年 9 月就收录了超过 40,000 篇，创下新纪录²⁰。10 月 1 日，arXiv 将作者投稿上限设为每月两篇，称 AI 工具让“用浅薄论文淹没 arXiv”变得容易。如果文献已经让人觉得多到无人能读完，想象一下机器也在投稿的情形。

上面，我提到了布鲁姆分类法，一个展示“理解”一词复杂性的框架。我同意，AI的使用可能导致（并且已经导致）理解的错觉。Messeri和Crockett警告说，AI工具让科学家相信自己比实际理解得更多。在未claim的领域，这是职业危害。一个结果伴随着证明、解释，也许还有简洁的总结出现，它感觉被理解了。

费曼的黑板上写着测试：“我无法创造的东西，我就不理解。”测量员的部分工作将是真正“拥有”他们所声称的结果。审问和简化的理念是第一步，也许我们会为这部分开发许多其他工具。理解是缓慢的，这没关系。急什么？

总结

整个事情的最后一个方面：科学的新阶段可能真的令人兴奋地见证。

那是因为科学作为对未claim领域的探索，可能意味着序言中描述的科学项目的戏剧性加速。记得我说过“即使我知道我们在我有生之年不会接近答案”……好吧，现在也许我们会到达某个疯狂的地方！

后记（2026年10月8日）

我在周二晚上（10月6日）之前写完了以上所有内容。那时OpenAI发布了372个家族的719篇手稿，每篇都声称解决或实质性推进了数学或理论计算机科学中的一个开放问题，全部由内部模型生成，每个结果约三小时计算时间。其中包括对唯一游戏猜想的声称证明。Scott Aaronson，其妻子Dana Moshkovitz整个职业生涯都在致力于那个猜想，称这一天为数学末日。

带着上述论点考虑这条新闻。也许我们刚刚打开了未claim领域的第一大块。确实是疯狂的时代。

后后记（2026年10月9日）

检查器的好坏取决于翻译。OpenAI九月份的Navier–Stokes爆炸结果附带了Lean验证，这是我在上面依赖的那种保证。Alexander Bastounis、Fabian Circelli和Anders Hansen的一篇新论文认为，Lean检查的是形式证明，而不是它翻译自的书面证明，忠实翻译一般是不可计算的，而在Navier–Stokes案例中，两个证明不匹配。我不知道什么是什么，但想强调人类理解的重要性以及未claim领域有时 treacherous 的性质。

细则

如承诺的，还有几个注意事项。

1. 在我们能让AI做科学和实施技术之前，有许多复杂的法律和伦理问题需要解决。我不会在这里涉及任何这些问题。让我们暂时想象我们也设法弄清楚了所有这些。
2. 我不会涉及任何与能源消耗相关的内容。我们有正当理由担心数据中心、污染等。这些理由可能意味着我们不应该使用AI做科学，因为根本不值得。但我不会在这里担心那个。让我们想象能源问题也已经解决。也许模型更好，也许有聚变。随便。关键是我想只专注于上面定义的主题。
3. 这里我主要讨论的是硬科学，比如数学、物理、化学、计算机科学等。当我们进入关于人类世界的社会科学和人文学科时，情况就变得模糊了。在这些领域中，AI 科学是否会创造出一片干净的未占领领地就不那么明确了。作为一个在社会科学领域做定量研究的人，而社会科学中的系统会对被理解做出反应²¹，我花了很多时间思考这个问题，但为伟大科学事业的这些部分建立一套完整的理论，是另一篇文章的任务了 😅

注释

1. 我说的 AI 科学，基本上就是指造一台计算机，让它嗡嗡运转，然后吐出科学成果。↩

2. 而且我们要明确，我指的是我们已经到了拥有自动化湿实验室等等的阶段，所以 AI 也能在生物学中进行自主研究。在那个想象中的未来，我们也已经弄清楚了如何用 AI 开发的药物进行人体试验。↩

3. 我明白很多人会说“AI 永远无法治愈癌症”，但这里我要回到上面的假设。我们目前讨论的是它们实际上能够做到的情况。↩

4. 这就是与我艺术观点的联系。归根结底，我们做这一切都是为了人类的利益。↩

5. 感谢 Petter Holme 就这个话题的讨论！↩

6. 有时候理解需要一段时间——想想青霉素或许多其他例子。↩

7. 我知道有些人仍然会争辩说，AI 只是在训练数据中就有这些证明，或者模型只是生成证明形状的文本。也许吧。但这似乎不是陶哲轩的观点（见下一条注释），而且无论如何：一个证明是被记住的、猜出来的还是推理出来的，证明检查器并不关心。我们也不应该关心。↩

8. 地图的一条规则。一个结果只有在被检查之后才算作未占领领地。由证明检查器、实验、我们甚至还没开发出来的新策略来检查。未经检查的主张还不算领地。也许是迷雾？在数学中，检查器已经存在，这也是为什么这一切首先发生在数学领域的原因之一。但这很棘手，参见文章后记。↩

9. 它得到了其他 24 位菲尔兹奖得主的联署，所以陶哲轩并不孤单。而且不管怎样，我认为这么多其他数学家签署这份文件这一事实表明，AI 在数学中所做的是真实的。这不仅仅是模型在 regurgitating 它们的训练数据……某种根本性的东西正在改变。↩

10. 靠自己双板爬山的野外滑雪者有一句口号来形容这种情况：“earn your turns”。直升机滑雪者花一大笔钱跳过攀登，直接进入真正有趣的部分——下山。据我所知，这两类人都玩得很开心，也没有人指责直升机滑雪者不是真正理解雪。↩

11. 约翰·巴尔末在 1885 年通过盯着氢的四条可见谱线的波长发现了他的公式。纯粹的模式发现，没有理论。直到尼尔斯·玻尔 1913 年的原子模型才解释了它为什么有效，这是量子力学的奠基时刻之一。玻尔获得了1922 年诺贝尔奖。↩

12. 1911年，海克·卡末林·昂内斯将汞冷却到约4开尔文，观察到其电阻消失。1957年，巴丁、库珀和施里弗给出了解释，并因此获得了1972年诺贝尔奖。↩

13. 1986年，贝德诺兹和缪勒在一种铜氧化物陶瓷中发现了约35开尔文的超导现象，远高于大多数理论家认为可能的温度。他们于次年就获得了诺贝尔奖。如今，四十年过去了，对于这些材料为何能超导，仍没有共识。↩

14. 但说实话，我认为我们把这个新角色叫什么并不重要。研究员、勘测员，谁在乎呢。未来将与现在截然不同——而对于我们这些认同序言中所定义的科学目标的人来说，它将是狂野的，并且希望是有趣的！↩ ↩²

15. 而且说实话：没有发现这一部分，这份工作确实会更加谦卑，所以一个更谦卑的名字算是额外的好处。勘测员从未像发现者那样受到赞誉。哥伦布有假日；与他一同航行、并于1500年绘制出第一张显示新大陆的地图的胡安·德·拉·科萨，只得到一个脚注（就是这一个）。但请记住，把发现转化为其他人真正可用的领地，是必要且有价值的工作，现在依然如此。我对这种谦卑没有意见。↩

16. 如果你看过《隐藏人物》，你就知道这个故事；如果没看过，玛戈特·李·谢特利2016年的同名著作比电影还要好。沃恩就是那个走进放着IBM 7090的房间的人，兰利没人能让它运转起来……而她让它运转起来了。太棒了。↩

17. 摘自西蒙斯基金会2026年6月一篇关于Lean对数学的影响的文章。同一篇文章中还有一句话：有了Lean，数学家可以“信任AI生成的引理证明，而不必担心AI幻觉或‘垃圾输出’”。这就是全部的诀窍：一个不可靠的生成器加上一个可靠的检查器，就能得到可靠的数学。↩

18. 布鲁姆分类法是教育心理学中经典的学习目标阶梯（本杰明·布鲁姆及其同事，1956年；由安德森和克拉斯沃尔于2001年修订）。修订后的层级是：记忆、理解、应用、分析、评价、创造。检查一个证明是否正确处于最底层。拥有一个结果——能够判断它并以此为基础进行构建——则处于顶层。勘测员的工作就是代表人类攀登这个阶梯，一次一个机器结果。↩

19. “平淡”是个强烈的词，但背后有数据支持。郝千悦、徐凤丽、李勇和詹姆斯·埃文斯分析了4100万篇论文，发现使用AI工具的科学家的论文发表量约为三倍，获得的引用量接近五倍，而科学研究的主题集合却缩小了，科学家之间的互动也减少了。AI增强的研究会流向数据最丰富的地方。论文更多，领域更少。Nature 649, 1237–1243 (2026)。↩

20. 根据 arXiv 自己的月度投稿统计，下载于 2026 年 10 月 7 日：2015 年有 105,280 篇新投稿，2025 年有 284,486 篇，2026 年 9 月有 40,363 篇。2026 年的总量在一年过去四分之三之前就已超过 2025 年全年。近期激增中有多少是机器在写论文，我无法告诉你。没人能。速率限制见 arXiv 的2026 年 10 月 1 日博文，其中还给出了 9 月的数量，并指出 AI 类别的投稿在 2024 年至 2026 年间增长了六倍多。↩

21. 社会科学家对此有一整套词汇。Robert Merton 称之为自我实现的预言（一家银行陷入困境的传言就足以让它倒闭），Karl Popper 称之为俄狄浦斯效应，经济学家则将其称为古德哈特定律：当一个度量成为目标时，它就不再是一个好的度量。行星不会因为我们预测了它们而改变轨道。人们却时时刻刻因为我们对其的预测而改变行为。在社会世界中，地图会改变疆域。↩

附录 1：关于“审问”可能是什么样子的更多灵感

这篇文章已经变得很长了，但我想再举一个例子，说明我认为“审问”这一步可能是什么样子。

我把它放在这里，是因为它是在已知领域上运行的，但我仍然认为它算数：Claude 智能体的费马大定理的完整机器验证证明。该证明大约有一千三百万行 Lean 代码和约三万个定理。关于费马，没有发现任何新东西。

但看看下面的图。该证明的依赖图就是一张地图。第一次，你可以一眼看到整个证明，从公理到顶峰的每一条路径，定理按族分组。我认为这就是勘测可能的样子。

附录 2：其他人在说什么

我不是第一个思考 AI 科学的人，一些非常聪明的人对此有非常不同的看法。与其逐一梳理，这里列出对我的论点最强的反对意见，按它们实际担忧的内容分组。（关于勘测者某些工作条件的反对意见——不堪重负与理解的幻觉——我在上文讨论过。）

“这不会发生”

最常见的反对意见是，这个前提是幻想。一向很棒的 Carl Bergstrom 在这个帖子中论证了这一点。他很可能说得对。但这就是我一开始所做的假设：我选择讨论机器确实更胜一筹的那个世界。如果它们永远达不到那一步，整篇文章就毫无意义，我很乐意这么说。

“这是关于资本，而不是好奇心”

Bergstrom 的一个观点对我打击更大，出现在同一帖子的后面。他论证说，真正的选择关乎集中资本在工业革命道路上再迈一步，将存在于熟练劳动中的知识机械化，就像提花织机对织造所做的那样。我认为他说得对，这也让我担忧。但这是对技术和权力的担忧，而不是对洞察力的担忧。

“理解必须靠努力赢得”

这是一个深刻的反对意见，也正是本文两幅图所要讨论的内容。Tao 的直升机是最简洁的版本：降落在山顶，你就会错过旅程带来的益处。Bergstrom 和 Joe Bak-Coleman（没错，就是引发这一切的那篇博文的作者）在 《自然》专栏中就人工智能与人类科学活动提出了一个相关的观点。我认为其中最好的一句话是：“论文并非科学研究的产物，就像铸件并非铸造厂的产物一样。”论文是“通过科学活动锻造出的人类理解”的载体。

我完全同意这个目标，这正是本文的全部要点。而且，正如我们在上面所看到的，Tao 也同意。我们在目的地上是一致的；我们在路线上有分歧。我的答案是图 2B，以及关于在新情境中发现乐趣的论证。从机器发现的峰顶回到已绘制的地图世界确实是一段旅程，而且它仍然能锻造理解。

“测量员将从何而来？”

Bergstrom 和 Bak-Coleman 还担心去技能化的问题。自动化将知识从人类转移到机器，“随着这种转移的发生，人类的技能会丧失，也许是不可挽回地丧失。”这是对测量员最强烈的反对意见，我认真对待它：如果没有人去做发现的艰苦工作，那么能够理解结果的人又从何而来？我还没有完整的答案。

但我已经有了答案的开端，而且它早于本文。六月，YY Ahn 和我在一集播客中花了很大一部分时间专门讨论这个问题。YY 说得非常好：我们用每周几个小时的健身房锻炼取代了每天八到十小时的艰苦体力劳动。也许我们需要为心智做同样的事情——在适当的约束下，有规律地刻意进行艰苦的脑力劳动。

同样重要的是要记住，我们一直在去技能化。柏拉图警告说文字会摧毁记忆，它确实摧毁了那种承载口头史诗的记忆。现在没有人再用手计算对数了。失去旧技能正是新工具的意义所在。真正的危险是医学文献开始称之为从未习得技能的东西：根本没有训练新技能。这是现在就设计测量员培训的理由，而不是让旧的继续下去的理由。

“它只是编造东西”

有一整类批评认为，语言模型不产生答案，只产生看起来像答案的文本。哲学家 Michael Townsen Hicks、James Humphries 和 Joe Slater 在一篇标题无可挑剔的论文《ChatGPT 是胡说八道》（2024）中提出了这一观点，Léon Bottou 和 Bernhard Schölkopf 则称这些模型为虚构机器（2025）。对于当今的模型，在许多任务上，他们说得有道理。

但请注意，这是一个关于生成器的反对意见，而科学从不信任它的生成器。它信任它的检查。在数学中，检查现在是一个程序：Lean 证明之所以被接受，是因为一个小型的、开放的证明检查器接受了它，而不是因为有人相信写出它的东西。一个不可靠的生成器加上一个可靠的检查器，就能得到可靠的数学。在其他所有地方，就目前而言，检查就是测量员，这正是科学一直以来对待不可靠生产者的做法。人类也不例外。

“它夺走了意义”

最后，这个反对意见我理解，但也必须拒绝。

Julian Togelius 写了一篇标题绝佳的文章 请不要自动化科学。他将“弱”科学自动化（让研究人员更高效的工具）与他乐见的“强”自动化区分开来，后者会让人类变得多余。

他的核心论点关乎意义：研究人员“之所以在这里，是因为他们热爱研究，并希望为推进人类知识做出贡献”，而“如果人类不能再对科学做出有用的贡献，这将是一场灾难。”

如果你读过前言，就会知道我完全认同这个前提。我们只是得出了相反的结论。Togelius 认为我们应该保护意义；我认为意义始终存在于共同的事业中，而非我个人的那一份。

附录 3：我在完成本文后发现的一篇文章

与本文最接近的文章是 Jordana Cepelewicz 的 Quanta 文章 AI 是我们所知的数学的终结吗？，发表于 10 月 5 日，我直到 10 月 8 日才发现。Cepelewicz 描绘了一个“解释者”的未来，看起来很像测量员的未来，而且她比我更不确定是否有人会想要这份工作。如果这篇文章让你想从数学内部看问题，那就读她的吧