对数学（和科学）而言，LLM 带来的是黄金时代还是黑暗时代？

[这是Francesco Maggi的客座文章。这篇博文最初以另一种文件格式撰写，并使用 AI 进行了转换。——T.]

大型语言模型（LLM）以及围绕它们构建的研究系统（通常被称为“人工智能”）在生成数学证明方面已展现出非凡的能力。尽管这些工具的质量与局限仍未得到完全理解，但它们加速发现、推动数学乃至更广泛的科学与技术领域取得非凡进展的潜力似乎显而易见。

要抓住这一潜力，就需要将 LLM 谨慎地整合进各个 STEM 生态系统中，其优先事项包括：赋能新一代科学家、发展新的 STEM 专业知识，以及维护一个开放、协作且智识上独立的科学事业：这就是标题中的“黄金时代”情景。在“黑暗时代”情景中，科学与技术产出在短期内仍会大幅增长，但与此同时，独立的人类科学活动将逐步削弱，新知识的生产将日益集中于少数人手中，而这些人越来越无力理解所生产出的知识。这里真正的黑暗将是知识变得与人类的理解相异。

现实很可能是这些情景的混合。我将用八点来审视塑造这一结果的各种选择，从数学出发扩展到更广泛的科学领域，最后以可操作的提议作结。

(1) 技术突破是真实的！但是……

显而易见的是，LLM 已成为强大的研究工具。近期由 LLM 生成的证明，例如为带强迫项的 Navier–Stokes 方程构造有限时间爆破解，或拟议的准黎曼猜想证明，都值得数学家给予最高度的关注。评估其意义将需要数学界持续进行独立审查、解读与吸收。

LLM 似乎最擅长用 Lean 编写证明。（Lean 是一种证明助手，允许计算机检查某个形式论证在指定定义和公理下是否确立了所声明的命题。）对于那些我们真正希望 LLM 提供帮助的困难定理，这些 Lean 证明极其冗长，长达数十万行代码。一个似乎正在浮现的趋势是：证明的 Lean 版本越长，其机器生成的“自然语言”翻译似乎就越混乱、越不忠实。我们不明白为什么 LLM 在这类翻译上似乎如此糟糕，但时至今日，它们似乎确实在这一任务上举步维艰。因此，对于真正重要的问题，LLM 可以给我们提供我们无法直接阅读的正确 Lean 证明，以及混乱到需要数学家深入研究才能形成人类理解的自然语言翻译。尽管这一特定的翻译问题未来可能会改变，但它直接将我们引向一个根本性问题：

如果没有人类的理解，除了对 LLM 进行基准测试之外，我们为什么还要关心研究数学，甚至关心获得证明？

数学是一种非常独特的人类产物。它似乎在人类的认知方式中有着深厚的生物学根源。我们识别（人、动物、物体）；因此，我们计数，我们拥有数字。我们似乎天生具有空间和时间的概念，并用数字来量化和测量它们。某些基本形式的算术和几何几乎可以说是人类与生俱来的。不同的文明构建了不同种类的数学，甚至在最近的数学史中，数学探究领域的范围也急剧扩大，有时甚至是偶然的。

（我们甚至可能处于这样一种境地：存在人类的数学和LLM的数学。这或许不仅在语言层面上成立，而且在更深层的意义上也是如此，尽管现在下结论还为时过早。）

因此，我不同意那种认为既然机器能证明定理，数学就终结了的说法。没有理解数学的人类，就字面意义上而言，就不存在人类的数学——而这是人类文化的一个基本组成部分。如果我们认同不应因为理解不足的机器冒犯了我们对数学的人类中心主义视角就放弃数学，那么社会将需要更多的数学家，而不是更少。是……多得多。

（2）健康的科学怀疑精神与LLM创造力的局限。

鉴于LLM在数学领域取得的非凡成果，如今人们对未来的能力抱有相当大的兴奋，而有时我认为缺乏冷静头脑，这并不符合科学方法。非凡的表现应当被视为一个值得研究的现象，而不是关于智能、创造力甚至意识的推测性结论的证据。后者是科学探究中最困难的合法课题之一。它们应当以明确的定义、可检验的假设和经验证据来对待。对于观察到的能力所引发的惊叹之后必然随之而来的关于不可避免的社会变革的笼统预测，也是如此。我们似乎太容易忘记，这些技术的社会后果不会仅仅由其能力决定，而最重要的是由我们就如何开发这些能力并将其融入现有制度所做的选择来决定。没有不可避免的结果，但迫切需要科学和政治领导力。

我们今天对LLM的数学能力了解多少？理论和实证见解都支持这样一个结论：LLM在重组现有知识结构和发现科学文献中相距遥远的部分之间未被观察到的联系方面表现出色。更重要的是，LLM以个体研究人员无法企及的规模做到这一点。它们在证明定理方面那种不可思议的有效性究竟可以完全解释为超复杂的语言重组，还是涉及其他尚未被描述和理解的综合推理形式，如今是一个开放的科学问题。

考虑到商业开发者对其模型的工作原理并不透明（也无法透明），有一个问题似乎特别难以判断，那就是 LLM 在某个问题上的表现与相关数学文献的丰富程度之间的关系。例如，Navier-Stokes 方程和 Riemann 猜想都是数百位最杰出的数学家所创造的庞大文献的主题。这里可能有些门道。毕竟，当 OpenAI 发布他们的“2026 年 10 月 6 日星期二，Drop”时，他们提到尝试了 4000 个问题，并报告其中数百个取得了成功（这是在“聚合”和“选择”之后统计的）。那里使用的语言有些含糊，但似乎仍然暗示存在一个可能很大的问题群体，前沿 LLM 未能找到这些问题的解决方案：从科学的角度来看，知道这些问题是什么会非常有趣。也许这些问题比 NS 和 RH 更有趣？还是说它们周围的土壤对 LLM 前来帮忙来说不够肥沃？对于想要推进数学进步的人类来说，这些都是重要的问题：我们如何让 LLM 处于最能提供帮助的位置？

(3) 数学化。

数学家们似乎基本一致认为，某些人类的数学功能无法还原为定理证明。其中一个特别重要的功能是数学化：

发明一种数学语言，通过它，现实（包括数学结构本身）在定量和理性上变得可理解。

Newton、Fourier、Riemann、Einstein、Shannon、Grothendieck：他们最伟大的数学贡献可以被描述为数学化的最高典范，因为它们包括了数学语言和概念框架的发明，这些发明改变了整个知识领域。

我们不知道 LLM 是否能进行数学化——我的猜测是，它们应该能够（或最终能够）对数学结构进行数学化，也就是对现实中一个非常特定的部分进行数学化，但它们是否能超越这一点则远不清楚，至少在以能够有效转化为自然语言的方式上——我这里又回到了人类理解的问题上。

在我看来，让证明成为一种更容易获得的商品所创造的最令人兴奋的机会是，在不久的将来，我们可能能够进行比以往任何时候都多得多的数学化。在自然科学和社会科学的广阔领域中，我们进行数学化的能力在很大程度上因获得证明的困难而受到抑制——事实上，没有证明，就很难确立一个理论的推论并将其与观察到的现象进行比较。但是，正如科学中经常观察到的那样，我们可能刚刚爬上山峰，却发现还有更多的土地有待探索。

我认为围绕这个想法应该会有相当大的兴奋。事实上，每当一个由现象、实验和数据组成的系统被成功地数学化时，我们就会极大地增加对该系统可获得的洞见的复杂性和深度。

这一论断最引人注目的例证大概是量子力学的成功：一组原始实验数据的数学形式化，著名地产生了许多物理上反直觉但可检验的预测，并被实验所证实，而这些预测原本是不可想象的——如果不是被理论预测所迫，谁会提出纠缠作为自然的一种属性呢？

（4）数学进步不能通过在一个问题清单上打勾来衡量。

数学不是一个有限的问题系统。希尔伯特在上个世纪之初提出了他著名的问题清单（这启发了千禧年大奖难题清单），意在引导和疏导一场数学活动的“寒武纪大爆发”。但过去一个世纪的许多基础性数学贡献，与任何问题清单都没有任何联系。

例如，广义相对论的数学基础源自历经数代数学家发展起来的几何思想，从高斯和黎曼开始，由里奇-库尔巴斯托罗和列维-齐维塔延续。将物理洞见、狭义相对论和黎曼几何综合为广义相对论，与任何难题清单或其错综复杂的证明都没有联系（并且是数学化在行动中的一个教科书式例子！）

第二个例子由一条广阔的历史轨迹提供，它连接了傅里叶级数的研究、测度论的发展、现代概率论和信息论。香农的洞见——信源的统计结构决定了信息传输和压缩的基本极限——是数学化如何能开辟一个全新领域的非凡例证。同样，现代计算和机器学习的一些数学基础可以说植根于一系列数学进展，而这些进展并非直接受到证明重大猜想或日益复杂的证明的尝试所启发。

不可否认，研究希尔伯特及其他清单上的问题已被证明对数学的发展极其富有成果。在这方面有趣的是，这些努力的有用性往往远远超出了具体问题的解决：正如其他评论中已经指出的，这些问题在未知数学水域的航行中充当了灯塔。但将数学简化为解决清单上的难题，会提供对该领域以及什么构成其进步的简单化和不完整的理解。

（5）作者身份、署名和同行评审仍然重要！

LLM生成的工作借鉴了大量人类数学文献，但提取的信息如何被使用仍不清楚。与这种基本的不透明性相关的有几个问题：哪些数学思想对某个具体证明有所贡献？谁负责断言证明的正确性并实施修订？在LLM重新发现文献中已有论证的情况下，我们如何确保适当的引用？我们需要对所有这些问题的合理答案，并且我们需要讨论现有的出版体系应如何相应地改变和适应。

证明并不是数学发现过程的终点。要成为富有成果的智力产物，证明需要被理解、被解释、与先前的工作建立联系。关键思想必须被识别和处理，才能成为共享数学文化的一部分。同行评审很重要。使用 LLM 和 Lean 形式化可以支持同行评审的有效性（形式正确性可能变得更容易确认），但人类干预仍然是必要的，以确立意义、相关性和语境，并维护一个有利于数学化、且与未来数学家培养相兼容的创造性数学环境。

与人类生成数据如何被提供给 LLM 的模糊性相关的一个特别具有挑战性的问题，当然是当前从一种非常开放的数学研究体系（人们经常提出开放问题和猜想）向一种严密设防的体系（人们已经对分享想法变得非常谨慎）的转变。

例如，鉴于 OpenAI 对黎曼猜想的兴趣，谁会轻率地想到把一个可能具有原创性的相关想法输入 ChatGPT 呢？毕竟，同一个想法可能会被另一位数学家或与更先进 LLM 合作的 OpenAI 员工获取，后者可以在甚至没有意识到其来源、也没有机会致谢的情况下把该想法变成证明。因此，模糊性和不确定性的另一面是，人们最终使用 LLM 的程度可能远低于他们本意。我的担忧不仅限于已发布的训练数据政策，还延伸到存储研究材料的安全性。确实，已有记录在案的智能体未经授权访问第三方系统的案例。这些事件使得对保密保护的独立评估尤为重要。

同样，数学家们似乎已经对他们在研究陈述和研究计划书中写的内容感到担忧并保持警惕。毕竟，一位行政人员或评审人可能会把这些文件上传到 LLM 中以获取撰写报告的帮助，从而可能危及未发表研究的保密性。

(6) 未来数学家的培养已经成为一项生存性挑战。

未来数学家的培养与作者身份和 credit 密切相关。我将讨论几个有代表性的挑战。

数学的一个显著传统特征是，可以通过数学成就非常直接地确立智力价值。一个解决著名问题的强结果可以让研究者获得认可和机会，无论其在机构层面多么边缘化，也独立于既有的学术等级体系。

在我交谈过的数学家中，普遍的看法是，这种传统的认可机制在几周内实际上已经崩溃。一个强的数学结果本身，已不能再被当作学生独立数学能力的令人信服的证据。我不知道这种看法是否被夸大，但不确定性是真实存在的，而我们尚未制定出令人满意的标准，用于在 LLM 时代评估个人对数学研究的智力贡献。

如果缺乏关于大语言模型如何被提示、以及提示通过何种机制影响其有效性的充分透明度，对个人数学能力的评估将几乎完全依赖于个人判断，而这种判断可以说必须建立在更充分的人与人之间的互动之上。

这远非唯一的问题。密集使用大语言模型对人类创造力的影响在很大程度上尚不为人知。过去一年中大量使用大语言模型的经验丰富的数学家们的轶事性叙述表明，注意力、动机和理解深度出现了微妙的变化，有时甚至并不那么微妙。

我们如何学会以增强我们智力能力的方式使用大语言模型，而不是越来越多地将数学专业知识得以学习和获得的那些认知活动本身外包出去？

如果我们想让黄金时代的情景成为现实，找到这个问题的合理答案是需要解决的主要问题之一。

(7) 对前沿大语言模型的私人控制具有潜在危险。

学术与企业研究数十年来富有成效地合作。大语言模型本身将学术界发展出的理论和技术洞见与集中的资本和投资结合在一起。

这里的危险毋宁说在于少数前沿公司所拥有的科学能力与大学和公共机构所能获得的能力之间日益加剧的不对称。

当这些公司利用专有系统开展科学技术发现、与学术研究竞争，而学术研究人员将不得不依赖使用这些同样的专有系统才能作出贡献时，这种不对称可能产生非常重大的后果。

数学或许提供了一个早期而可见的例子，说明一种可能在科学各领域日益产生重大影响的不对称。让私人利益决定哪些问题获得最好的工具、谁可以使用它们、能力如何被评估以及发现何时发布，将把科学影响力集中到前所未有的程度。能力上的平衡似乎对于稳定合作和利益协调是必要的。让少数几家公司对似乎注定要成为前沿数学和科学基础基础设施的东西拥有日益增加——且可能是完全的——控制权，似乎是不明智的。

这一结论并不需要假定企业领导层怀有恶意。简而言之，商业激励、科学优先事项和公共利益并不总是必然一致。一个健康的科学生态系统需要具有不同目标和不同权威来源的机构之间进行对话，并接受透明度和各种形式的公共问责。

回到数学，OpenAI一直在与数学界进行各种形式的对话。这一对话在纳维–斯托克斯问题时期的情况方面带来了一些改进，无论是在大语言模型生成结果的呈现还是传播方面。我认为这些努力应当得到建设性的接纳并值得认可，这也是因为OpenAI在提高透明度和准入方面存在客观且合理的困难，比如巨额投资需要产生回报的压力，以及在部署系统之前评估安全性的需要。

这些互动清楚地表明，即便假设各方都怀有完美的善意，协调企业与学术利益也存在固有的困难。更重要的是，这些举措并未解决前沿 LLM 能力获取不平等这一结构性问题。将这一问题的解决寄托于个别公司的善意和自愿举措，似乎并不充分。

(8) 在更广泛的研究社区内建设科学 LLM 基础设施。

大学、专业学会、资助机构和科学基金会应协调竞争性 LLM 的开发与治理。科学家需要获得前沿能力、了解其运行和研究数据使用情况的透明度、强有力的保密保护，以及独立检验和复现研究主张的能力。

支持此类倡议所需的大规模计算资源、专业人员、数据基础设施和持续投资，并非单一机构所能企及，还需要巨大的领导力努力，才能将独立模型开发、有保障的商业系统访问、公共计算基础设施和开放研究资源结合起来，从而胜任这项工作。

这里的关键目标未必是实现对私营企业的完全技术独立，而是保留独立科学研究的能力，并创建为支持研究社区而校准的 LLM，而非注定导致研究社区逐渐削弱、甚至可能最终消失的 LLM。

在巧妙整合日益强大的机器的同时，维护一种智识上独立、开放且富有创造力的科学文化，必将成为我们这个时代的决定性文化挑战。数学提供了一个早期机会，来应对这一很可能很快扩展到整个科学的挑战，并对知识、智识力量和社会产生日益复杂且可能危险的后果。科学怀疑精神和对所有相关方的公平应指引我们。

黄金时代情景是可以实现的。为研究人员提供前沿 LLM 的访问权限、为 LLM 生成的学术成果制定可复现性和披露标准、为理解和传播 LLM 生成结果提供资源、为研究 LLM 对科学教育和研究培训的影响提供资源，以及对公共治理的 LLM 基础设施进行持续投资，这些都是我们今天可以采取的具体步骤，以使黄金时代情景成为最可能的结果。

在数学这一具体案例中，我对一个稳固独立的 LLM 基础设施的希望和愿望，是赋能数学家系统性地追求理论构建或数学化的机会，既在数学内部，也横跨自然科学和社会科学的各个领域。我认为，那将是一项真正革命性的成就。

与此同时，我认为数学家肩负着重大责任，要让数学作为人类文化中充满活力的一部分得以延续。眼下，有太多的利益诉求和太多的情绪反应，将人们引向那些绝对化、消极且缺乏建设性内容的结论。我们必须接受，这是一个充满不确定性的时代，我们无法完全掌控局势。我们必须借助一切有助于我们发现新数学的工具。我们必须继续写作、发表、审稿、撰写项目申请。在做这些事情时，我们必须比以往任何时候都更有雄心、更好奇。我们还必须确保为下一代数学家建立最好的专业标准，以保持数学作为人类文化核心节点的地位。