跳到正文
Hacker News· smilelamp·· 9 天前AI 评分22

当 LLM 冲击数学界,我们该告诉学生什么?

What should we tell our students?

AI 导读

数学家 Álvaro Lozano-Robledo 发文回应一名纯数学本科生的求助:在 LLM 快速进展下,是否还该读数学博士、AI 是否会在 5–10 年内超越人类做纯数学研究。他明确表示没人能确定答案,并提醒前沿模型公司正主导相关叙事,同时启动“Human Mathematicians in the Age of AI”访谈项目收集数学家观点。

正文 · AI 翻译

[这是Álvaro Lozano-Robledo的客座文章。这篇博文最初以不同的文件格式撰写,并使用 AI 进行了转换。—— T.]

TL;DR:保持冷静,继续学习数学。

我衷心感谢 Terry 给我这个机会,让我能在他的博客上贡献一篇文章。在反复思考该写什么主题才能产生最大影响之后,我决定借此机会向学生们发声:尤其是那些几个月前还梦想着在数学领域从事学术生涯的本科生和研究生,但他们的梦想如今可能显得遥不可及,对一些人来说,似乎永远无法成为现实。这篇文章的灵感来自我收到的一条消息(经许可,全文引用如下),它来自一位绝望地寻求建议和指导的学生。这不是我收到的唯一此类消息(我怀疑我们许多人都在收到许多类似的请求),但它或许是最真挚的,也是最让我感动的。还请留意这条消息的紧迫性。学生们现在正在做决定。

嘿,教授,作为一名曾经想从事数学学术生涯的纯数学本科生,我关注你的视频已经有一段时间了。我知道你可能已经收到了很多关于这个问题的提问,但我在自己的职业轨迹上完全不知所措,甚至到了这个地步,连人生的意义都感到迷茫。(我确实意识到很多人的处境比我糟糕得多。)我知道你最近制作了很多关于新 LLM 进展更新的视频,所以我想你可能是适合联系的人,能就此事给出稍微更有条理的回答。那么,直入主题,我真正想知道的是:数学学术界是否会有足够大的规模和足够的可及性,让任何拥有纯粹热情的人(尽管不是该领域最聪明的人)都能在其中追求职业生涯,还是它不可避免地会萎缩,以至于只有最聪明的人才能真正进入?(我确实意识到我在这里提到的“最聪明的人”定义并不明确,从某种意义上说,我把它当作一个假设,即这是“比我更聪明”的人。)我的第二个问题是,AI 在 5 到 10 年内是否会在从事纯数学研究方面超越人类?我最近几个月真的非常迷茫,完全迷失了人生方向。我不是想让你更沮丧;如果我给人这种感觉,抱歉。任何建议我都会感激不尽。

LLM 的进步正在颠覆数学学术研究和教育的几乎所有方面,虽然有许多方面让我担忧,但最让我担心的一个问题是,我们很可能即将失去整整一代数学家。许多学生正在问自己,现在攻读数学博士学位是否是正确的职业选择。他们中的许多人一年前还准备进入数学研究生院,但现在他们改变了主意,认为鉴于 AI 可能在未来几个月内彻底改变学术数学格局的威胁,一个不同的职业(甚至像法学院这样远离数学的领域)可能是最好的道路。

学生们担心的问题如下:

  1. AI 会在数学研究能力上超越任何人类吗?
  2. 研究数学家会变成‘专业提示者’和 LLM 输出的解释者吗?
  3. 只有`最聪明的人`才能对研究数学做出有意义的贡献吗?
  4. 数学家还能找到工作吗?还会需要数学家吗?
  5. 我现在应该去攻读数学博士学位吗?

在这篇文章中,我将尽我所能来探讨这些问题,但首先会给出两点免责声明,随后简要概述我自己的看法。

免责声明1。我的回答可能会“像牛奶一样变质”,正如YouTube评论者喜欢在旧视频下调侃的那样。我能接受这一点,因为这篇文章表达的是我和我周围社区中许多人在今天的感受。不过,情况可能变化很快(见免责声明2)。我也想承认,作为一名数学终身教授,我的视角有其特权性——从一位职业生涯极早期的数学家的就业不安全感来看,情况可能显得更加令人不安。

免责声明2。目前没有人知道答案。我想从一开始就明确,没有人能够确切知道上述任何问题的答案:不是任何一位特定的菲尔兹奖得主,不是任何一位特定的数学家,不是任何一位特别大声疾呼的AI专家,也不是那些前沿模型公司。如果有人以非凡的自信告诉你未来会怎样,那么我会立即怀疑他们这种确信背后的动机(据传闻,X.com上几乎所有预测AI将取得胜利、数学职业将消亡的人,要么是自称的“AI专家”,要么为AI初创公司工作)。没有人有清晰的图景,因为LLM的发展如此之快(且不透明),几乎不可能预测未来会怎样。一个好建议是,向许多人提出同样的问题,听取(希望是平衡的)各种意见。为此,我正在我称之为“AI时代的人类数学家”的视频项目中收集对数学家的采访。我鼓励你们去听听这些采访中的一些精彩观点。

郑重声明:我也没有答案,但我对未来充满希望和兴奋。我将在下面解释原因。

谁在控制关于数学中LLM的叙事?总体而言,数学界对AI进展的反应从困惑到愤怒不等——但主要是对如何前进感到困惑。最反乌托邦的预测似乎是由这样一个事实驱动的:所谓的前沿模型公司(以及其他由LLM驱动的公司)正在以最符合自身利益的方式控制着叙事。不幸的是,对一家LLM公司来说最好的企业结果,可能对数学(和科学)界产生潜在的灾难性后果。

可以肯定的是,AI 公司希望我们相信,他们的产品即将实现“超人类智能”,尤其是它们将能够自主解决任何人类在有无 LLM 辅助下都能解决的数学问题。让公众相信其技术具有(据称的)“无限潜力”,尤其在公司股票上市之前(即他们即将进行的 IPO:Anthropic 在 2026 年 11 月,OpenAI 在 2027 年初等),符合他们的最佳企业利益。因此,他们试图通过投入大量(人力和计算)资源来寻找某些著名数学问题的解决方案,从而控制叙事。随后,这些证明会在公告中发布,让公众相信他们的模型已经能够自主解决任何问题,而且速度很快。然而,这(目前)远非其真实能力。例如,他们从不讨论在尝试(并失败)解决著名问题时有多少 token 被扔进了垃圾桶却毫无回报。例如,我们确实知道,OpenAI 投入了约 1500 万美元来解决(呃,抢先解决)Navier-Stokes 问题,但我们不知道解决其他千禧年大奖难题失败时那必定巨大的运行成本。

我自己的看法。尽管我对 LLM 侵入学术数学感到担忧,但我相当乐观。事实上,我认为这是我数学职业生涯中(比如自 2000 年以来)最激动人心的时期。确实,这可能是我们学科现代史上数学最激动人心的时刻,如果看到年轻人离开学术界,错过站在当前科学革命前沿的绝佳机会,我会非常难过。而且不只是难过:我认为他们的缺席会对这个领域产生灾难性影响。

毫无疑问,LLM 已经是一个极其强大的工具。如果使用得当,并且如果我们围绕 LLM 的使用建立合理的学术行为期望,这些工具可以以前所未有的方式加速我们学科的进步。我完全预期,我们整个群体将适应并调整到这个新阶段,我们将利用这些工具实现真正伟大的成就,而这些成就就在几个月前似乎还遥不可及。我完全预期,人类数学家将在这些即将到来的美妙成就中处于核心位置。我将在下面补充支持我乐观态度的理由。

此时我还想补充一点,数学家的日常生活到目前为止并没有太大变化!我的日子仍然充满了教学、与同事和学生关于数学的愉快对话、从事许多令人兴奋的(新旧)项目的研究,以及参加激发灵感的会议来学习和传播我们最新的方法和发现,同时与那些让数学界如此美妙和充满活力的同事共度时光。Daniel Litt 在最近的一条推文中也提到了同样的感受。

不过有一件事变了,我比以往任何时候都更忙,因为我参与的研究项目数量在短短几个月内增加了两倍。我的研究视野显著扩大,我有更多项目可供学生帮助我完成。

现在,来谈紧迫的问题:

“AI 会超越任何人类的数学研究能力吗?”这完全不清楚。一方面,当前的能力发展轨迹无疑意义重大,我们已经看到许多令人印象深刻的结果,这些结果要么由 LLM 证明,要么其证明得益于 LLM 的大量贡献。另一方面,迄今为止似乎没有任何证明包含“外星思想”、第 37 步,或完全新颖的论证或新概念——这些在文献中从未以某种形式出现过。这并不令人震惊,因为 LLM 是在迄今为止所有人类贡献的全部内容上构建和训练的,因此它们在我们当前知识的边界内‘思考’,并在文献中已有的思想之间建立联系(有时令人惊讶且巧妙!),这是合情合理的。我特别喜欢 Nestor Guillen 在最近一篇博客文章中提出的假设(或他所说的玩具模型),他认为 LLM 可能在当前文献中可用思想的凸包范围内工作。

以 Erdos 单位距离猜想的反证为例。我们可以将当前的数学思想集合想象成一个星形高维多面体,我们可以将离散几何的最先进思想放在一个外部顶点,将我们在代数数论方面的知识放在另一个外部顶点。证明的想法乍看之下很巧妙,因为它巧妙地将两个数学领域的策略混合在思想多面体的顶点上,但仔细检查后,这是一个人类触手可及的证明,因为它就位于多面体的凸包之内。

思想的多面体

这与 Melanie Matchett-Wood 所说的关于单位距离证明发布时的说法一致:“我相信,如果一个月前,将本笔记中所代表的人类专业知识的水平和类型汇集起来,去寻找这个猜想的反例,并且这些人投入与阅读和思考 ChatGPT 的解决方案相似的时间,数学家们会找到反例。”

然而,比如说黎曼猜想的证明,可能需要严格处于当前数学思想凸包之外的新思想,因此 LLM 无法触及。只有当新思想在一篇新论文中被引入后,思想的多面体才可能获得一个新的外部顶点。只有在那之后,LLM 在重新训练以包含这些思想后,才可能填充结果集合直至新的凸包,这可能或可能不包括黎曼猜想的完整证明。

思想的凸包

如果这个玩具模型成立,那么我们确实会预期目前看到的数学领域的快速进展。随着 LLM 利用思想多面体的星形特性,它们将继续填补外部尖峰之间的空白。但随着 LLM 用新结果填充凸包,我们将看到仅由人工智能展示的结果数量减速。我们将需要人类的进步和直觉来产生扩展我们知识多面体的新思想。

即使 LLM(或未来的 AI 模型)的数学能力在某个时刻能够超越当前人类思想集合的凸包,我们仍可能以另一种方式触及 LLM 能力的极限:资源的可行性与伦理使用(这与乐观主义者同行 Kevin Buzzard 在最近一篇博客文章中所称的“自然边界”类似)。在解决某个给定问题的过程中,任何代价(金钱数额、人力成本、伦理成本)都是可接受的吗?我们是否应该花费数百万美元和数量未公开的自然资源,只为找到 Navier-Stokes 的一个解?打个比方:我们想知道火星上是否存在生命,但为了尽快做到这一点,我们需要荒谬的巨额资金,并在此过程中冒着人类乘员的生命危险。这值得吗?类似地,我们可能会到达一个节点:LLM 能以极高的代价(就资金和资源而言)解决一个重要问题,但这可能恰恰是纳税人或社会无法承受的代价。相反,我们将需要人类设计出一条替代路径(相当于火星的引力助推机器人任务),以可接受的代价解决该问题,并在数学进展、更重要的是人类理解方面产生类似的结果。

“研究型数学家会变成‘职业提示者’和 LLM 输出的解释者吗?”没有迹象表明会如此。是的,LLM 已经在一定程度上自主地产生了重要结果的证明(据前沿模型公司称——见免责声明 2),一些数学家被指派去解释和消化这些证明。但根据我自己的经验,以及其他在研究中使用 LLM 的研究型数学家的看法,与 LLM 合作就像与一位合作者讨论问题,结果在很大程度上取决于数学家向对话中投入了多少指导和直觉。换句话说,LLM 不仅仅是工具:它们可以是研究合作者,但正如任何合作一样,当所有各方都为讨论做出贡献时,体验和结果都会大大改善。此外,数学家并不想提示“解决黎曼假设,不要犯错”,然后去解释证明。我们更愿意在证明发现过程的每一步都积极参与,因为我们被‘结果为何为真’所驱动,而不是被‘该陈述为真’这一最终答案所驱动。

此外,如果我们接受前面关于思想凸包的概念,那么在不久的将来某个时刻,如果没有人类添加一个新思想、一个新定义、一个新概念,从而在凸包中制造出新的尖峰,数学就不可能取得进展,然后进展才能发生。

“只有‘最聪明的大脑’才能对研究数学做出有意义的贡献吗?”在数学史上的任何时期,都有一些活跃在研究一线的数学家,他们的数学思维能力似乎完全超越常人(例如本博客的作者,以及其他许多人)。人们自然会推测,他们能解决我们能解决的任何问题,而且所用时间只是我们完成证明并撰写成文所需时间的一小部分。然而,这从未阻止我们这些数学能力较为普通的人极度享受做研究,并产出远非微不足道的成果。事实上,数学一直受益于各种思想和视角的多样性,从非常具体的到宏观鸟瞰式的,从较小的贡献到构建全新理论。

同样,我也不觉得LLM的数学能力对我构成威胁。一方面,如上所述,它们的能力目前仍然有限。另一方面,即使它们的能力变得远超人类,也始终需要各个层次的数学家来引导研究走上适合人类行走(而非奔跑)的道路。

数学宇宙是浩瀚无垠的(正如Emily Riehl所说),而计算时间是有限的。总会有一些数学领域探索不足,即使是初学者也能在那里开辟新天地。LLM可以在这一过程中提供帮助,快速探索那些可能是死胡同的路径,指出已经探索过的路径,并照亮那些可能硕果累累的路径。

正如我上面提到的,我从未像现在这样忙碌,因为接触LLM使我能够涉足的领域成倍增加,我的好奇心也远远超出了我的研究领域。现在我有比以往多得多的想法,多到我自己无法一一探索,所以我正在招募比以往更多的学生合作者,帮助我检验这些问题是否能带来有趣的结果。学生也能比以往更早地参与研究,因为LLM可以帮助他们更快(而且更深!)地学习材料,它们全天候24/7随时回答他们的问题,而不是像我每周只有可怜的一两个小时与他们见面。

“还需要数学家吗?他们还能找到工作吗?”我觉得这些问题很自然,但也令人困惑。即使在最反乌托邦的场景中,AI在所有研究任务上都超越人类,如果没有人类数学家来消化和理解(纯数学中某个定理的)证明,那这个证明又有什么意义呢?无论LLM和AI如何进步,都会有堆积如山的研究需要人类来理解,无论有没有计算机的帮助。

此外,我们似乎忘记了大学里数学系的存在是为了服务于两个主要目标:数学知识的发现与传播。几乎每个数学系都同等强调我们的研究和教育使命(许多机构甚至将数学的教育使命置于研究使命之上)。数学课程是文科课程不可或缺的一部分,因为学习像数学家一样思考是一项极其有用且可应用的技能。我们身为研究者这一事实为我们的教育目标增添了巨大价值,因为学生最好是从那些处于研究前沿的科学家那里学习。我们为本科生提供的研究机会是他们课程中非常宝贵的附加内容,因为这是一种不同类型的训练,有助于他们未来就业。只要数学思维方式仍然是本科生群体需要学习的一项极具价值的技能,大学就仍然非常需要聘用数学家。

大型语言模型正在使数学研究比以往任何时候都更容易被那些甚至不在学术界、甚至不是数学家的人所接触。这意味着本科生将能够更容易地加入由真正的数学家领导的研究项目,这可能是一片新的探索沃土。不过,不是盲目的探索,而是以理解为目标、让学生以合乎伦理的方式被引入并训练进入一个高度技术性领域的数学探索。当然,我们应该优先培养学生如何交流他们所学的数学,因为这一直是(而且很可能将变得更加是)一项关键技能。

说了这么多,我无法想象大型语言模型会让数学家失业。相反,它们可能会创造就业机会,因为我们的研究生产力可能会飙升。另一方面,我更担心的是那些本质上属于政治性、与人工智能和大型语言模型讨论无关的政策和资金问题。

最后,也是最重要的问题,我想在这里谈一谈:

“我现在应该攻读数学博士学位吗?”这个问题的答案应该因人而异,对每个学生来说都是个人的。但在我看来,答案不应该从一年前到今天有所改变。攻读数学博士学位最重要的原因(也许是唯一的原因)应该是申请者对数学充满热情,并希望成为我们领域内某一特定主题的专家。如果这就是目标,那么大型语言模型在数学中的存在就无关紧要,因为当申请者获得了足够的知识,成为某个特定问题的专家时,目标就实现了。如果说有什么不同的话,大型语言模型可以被用作更高效地实现这一目标的工具。就我而言,我每天都在使用它们来最终理解那些我一直有疑问的概念和技术,现在我可以不断向大型语言模型提问,直到我完全满意为止。我能够找到那些让我豁然开朗、契合我自己思考数学的特定方式的解释和例子。

学生在数学博士阶段想以多大程度使用 LLM 应当是个人的选择,但我要说,正如我的同事 Jeremy Teitelbaum 在最近一次采访中所说(这里是我所指的那一段,这里是完整采访),学生不能不学习了解 LLM 或任何其他技术的当前能力。如果你的目标是成为专家,那么你必须乐于向该领域的所有专家学习,并向所有可能让你比前人更深入地研究某一主题的来源学习——例如,LLM 可以成为探索文献的极其高效的工具。

但再次强调,是否攻读博士不应基于当前的技术发展水平。

我想攻读数学博士,因为它看起来是一项宏伟的挑战。我想攻读博士,因为我想了解 Andrew Wiles 是如何证明费马大定理的。我想继续学习数学,因为我不想要“一份真正的工作”,而能够独自思考高等数学几年的机会对我来说就像一个梦,好得让我不能不全力以赴。我知道,如果我有机会完成博士学业却没有尝试,我会深深后悔(最好的时机是在你的本科知识还新鲜的时候!)。我想听数学家谈论数学,并为那些让证明成立的小小细节和奇迹而欢欣。我想结识其他同样认为数论是地球上最酷事物的人,并与他们一起消磨时光。我想在研究期刊上发表一篇署有我名字的论文,因为我发现了一个前人从未想到的新定理。我想在课堂上和课堂之外向他人解释和分享我对数学的热情。

简而言之,我只是想做数学,如果因为某种对数学领域的未定义威胁而让我不敢抓住攻读博士的机会,我会悲痛欲绝。

如果你是一个对数学充满热情的学生,并且也想要这一切,那么无论你学位期间有什么技术可用,博士都是适合你的道路。你将学会以自己感到舒适的程度使用技术,并实现你自己的梦想和对数学博士意义的期望。

后记:OpenAI 的重大发布。在我写完这篇博文并已发给 Terry 之后,OpenAI 发布了一大批数学成果。毫无疑问,这是数学史上的一个历史性时刻。他们论文中的定理证明了一些重大的数学未解问题:所谓的准黎曼猜想的解决、Goldfeld 猜想、CM 阿贝尔簇情形下的霍奇猜想、Q 上的希尔伯特第十问题、刚性猜想……这样的例子不胜枚举。

但如此巨大的发布并不迫使我改变上面提出的任何观点。相反,我们早已知道他们的模型能做出惊人的事情(例如,Navier-Stokes)。我们早已知道前沿模型能以巧妙的方式连接现有文献中的点(例如,单位距离猜想)。我们早已知道 OpenAI 可以花费令人难以置信的资源来攻克问题。

此外,我们怀疑他们的模型存在局限,而新发布的成果也显示了这一点。在他们的报告中,他们提到攻击了4000个开放问题,而他们的模型能够在约700个相关问题上取得进展。是的,他们能够解决的一些问题非常重大。但这也表明他们的模型存在局限,很可能正是由于我们上面解释的那些论点。

是否有任何解决方案使用了文献中现有思想凸包之外的新想法?我们需要数学家和时间来消化这些新证明,理解正在建立的联系,以及在这个过程中是否真正发现了全新的想法。

不过,我文章的主要观点仍然不变。无论有没有LLM的帮助,仍有大量的数学研究有待完成。有新的数学山峰需要解释和传达给他人。如果你是一个热衷于了解什么是新的、还有什么有待完成的学生,那么攻读博士学位绝对是适合你的道路。

来源:Hacker News · terrytao.wordpress.com