跳到正文
Hacker News· smilelamp·· 3 小时前AI 评分36

数学家 Frank Calegari:OpenAI 发布 700 余篇论文后,数学已改变,我们该行动了

Mathematics has changed. Let's act like it

AI 导读

OpenAI 于 10 月 6 日发布超过 700 篇研究论文,数学家 Frank Calegari 认为这标志着 AI 已能对数学作出突破性贡献。他指出这些论文写作糟糕、违反署名规范,部分甚至有误,但数学界更应反思自身的招聘、发表与学生培养方式。他以有限单群分类的历史为例,提醒同行不要因“著名问题被解决”就宣告领域终结,而应借助 AI 工具去探索被绕过的旧路径与更深层问题。

正文 · AI 翻译

[这是Frank Calegari的客座文章。这篇博客最初以另一种文件格式撰写,并使用 AI 进行了转换。——T.]

为什么我们不应感到悲伤

OpenAI 于 10 月 6 日发布的 700 多篇研究论文是数学史上的一个分水岭。如今,AI 无可否认地能够在数学的许多领域做出突破性贡献。那么,为什么有些数学家如此不满呢?

部分原因在于 AI 公司对数学实践显而易见的漠视。OpenAI 的论文——尽管包含一些极其出色的想法——写得极其糟糕,违背了我们社区对署名的期望。其中一些甚至是错误的。对于如何聘用数学家、发表论文和培养学生,我们拥有比万亿市值公司的行为大得多的控制权,而这才是我们应当投入精力的地方。

大部分反应似乎反映了一种感觉:他们所热爱的学科正受到攻击,正被“掏空”。最近的 OpenAI 发布对 Langlands 纲领中函子性和互反性的一般问题几乎毫无影响。但即使它真的解决了 Langlands 纲领中的每一个问题,认为那会“解决数论”也就像说元素周期表的构建解决了化学一样天真。数学家应该更好地解释:当我们谈论任何领域的核心问题时,我们只是在讨论我们理解的最自然边界——而解锁它们不是终点,而是寻找新探索乐园的第一步。当然,这需要时间。我寻找了数学中“受冲击更大”的领域。很难不被 Hugo Duminil-Copin 的哀叹所触动:

在我职业生涯中公开提及的每一个重大未解决问题(无论是在演讲、讲座、文章,甚至基金申请中),没有一个未被这次公告触及。所有问题都被声称已获证明。

我原以为会在列表中看到其中几个。但不是全部。不是一下子全部。不是如此漫不经心。

我会如何回应?

有限单群分类。

我无法对渗流理论多说些什么,但我认为数学家们应该注意另一个历史先例。1972 年,Dan Gorenstein 宣布了一个走向有限单群分类的纲领。经过大约十年的密集活动,Gorenstein 于 1983 年宣布了“分类”(有些过早,准薄群的情形又过了二十年才由 Aschbacher 和 Smith 完成)。

有限单群分类在很多方面都是一个巨大的成功,但它也是一种失败,因为它——请原谅我向群论学家朋友和合作者们致歉——冷却了人们对这个主题的大量兴趣。“著名问题”已经消失,数学家们总体上把注意力转向了别处。然而,有限群论中仍然存在非常丰富的问题,甚至关于分类本身也是如此(仅举一例:John Conway 最喜欢的问题是魔群为什么存在?)。也许对某些领域来说,OpenAI 的倾倒感觉就像一位群论学家在 1970 年可能感受到的那样:如果分类被倾倒在他们的办公室里,不是以实际论文的形式,而是用酒精复印机打印出来,有点污迹,然后像五彩纸屑一样随机散落在地板上。

现在,我们需要像 Gorenstein、Lyons 和 Solomon 那样的努力,以及他们在修订分类上的工作。如果这就是我们所要做的全部,那将是一项相当吃力不讨好的任务。但我们也有责任不宣布这个主题“已完成”,而是——借助这些可用的新工具——认为它有待进一步研究。当数学家们哀叹修建银河绕行道时错过的蜿蜒小径时,他们需要意识到那些古老的小径仍然存在,并去寻找它们。在给人们提供工作时,我们需要奖励这种行为。

AI 的承诺,以及数学的(不)统一性:

从 15 岁起,我就想知道 {\zeta(3)} 是什么。起初,是童年幻想找到欧拉错过的公式。但很快人们会学到更多:Grothendieck 的周期猜想,加上对混合 Tate 动机几何的足够精细理解(遵循 Don Zagier、Sasha Goncharov、Francis Brown 等人的工作),如何对正在发生的事情给出一个完全令人满意的结构性、猜想性解释。{\zeta(3)} 的无理性,甚至它的超越性,只是真正有趣的基础问题的影子。Apéry 对 {\zeta(3)} 无理性的证明激励了我超过 {30} 年,不是因为它的结论,而是因为它揭示了某个仍然秘密的故事的最微小线索,这个故事将代数 {G}-函数与算术联系起来。

我希望 AI 能帮助数学家们摆脱被他们无法证明的第一个自然猜想所束缚的紧身衣,并致力于解开编织在我们主题各处的更深层奥秘。在过去的三十年里,人类在数学上的进步是显著的。但与此同时,我感到越来越不安;我多次看到各个层次的数学家甚至无法向稍微外行的人解释他们所做的工作为什么有趣,这令人苦恼。我们职业的自然轨迹在很大程度上偏向更狭窄的技术专长,而不是更宏大的视野。AI 为我们提供了一个绝佳的机会,让我们作为数学家拓宽自己。

作为一名数学家,我一直尝试(并非总能成功)拓宽自己的视野。我在这方面得到了一些帮助,因为我从17岁起就知道自己想从事代数数论和Langlands纲领的研究,而我成长于墨尔本大学这个熔炉之中,那里是许多Thurston的学生和低维拓扑学家的家园。这意味着我沐浴在双曲3-流形的甜美甘露中。这种接触对我的职业生涯有着不可估量的帮助。正如数学中任何两个深奥领域一样,双曲三维流形与算术之间的联系远比初看之下要紧密得多。但同时精通两者仍然很难,更不用说去追求一个将两者结合的疯狂想法了。让我稍微技术一点。对于每个虚二次域{F},存在许多由非分裂四元数代数{D/F}索引的紧算术双曲三维流形的交换类。每个交换类中的流形{M}通过将{K_3(F)}分解为双曲四面体而产生{M}中的元素,它们的体积总是{\zeta_F(2) \cdot \pi^{-2} \cdot \sqrt{|\Delta_F|}}的有理倍数。我一直有这样一个想法:可以将这些不同交换类中的元素视为与{K_3(F)}相关联的某种几何Kolyvagin系统(“Heegner点”),并可以通过某种未知的Jacquet–Langlands对应的整算术版本来将它们连接起来。我并没有 pursue 这个问题,原因有二。首先,其中涉及太多底层猜想,以至于我能证明的任何结果都将以其中许多猜想为条件,这一点并不总是被数学界所理解。其次,要精确地表述这样一个想法,需要汇集所有技术背景,这将需要大量的背景工作。现在,有了AI,尝试这样一个问题的障碍要低得多。这不是试图证明一个定理。这是试图探索一个全新的方向,它可能是无意义的,也可能不是。数学中有太多问题仍然如此新鲜和重要,但以前却是不可触及的,能够接近它们的机会令人无比兴奋。我们需要更加雄心勃勃,制定出一年前甚至无法想象的大胆研究计划。

这并不是说每个人都必须(或必须不)使用AI。但我们必须重新思考和调整什么才是重要的。重大猜想的证明,无论是否使用AI,都将继续成为新数学的一部分。但致力于更广泛的纲领(新的和旧的)以及结构性理解将发挥更根本的作用。Christian Szegedy提出了以下观点:

数学一向以精英治理为傲,对探索者怀有深深的敬意:那些能攀登无人能及之处的人。那种特定的英雄主义将变得不那么重要,而其他技能将变得更加重要:选择哪些领域值得探索,驾驭飞机编队,并向世界其他地方解释他们的发现。

我准备好登机了,因为我想看看那里有什么。同时,我想补充一点,那些以前闭着眼睛在地球上行走的人,无论飞得多高,都不会认出任何东西;我仍然相信,数学家现在拥有的许多技能不仅可转移,而且对新世界秩序至关重要。

乐观主义者和悲观主义者的反应差异在于,对悲观主义者来说,游戏已经结束。而对乐观主义者来说,游戏才刚刚改变。我承认,我们数学文化中有些我们珍视的方面将无法存续,为此感到悲伤是人之常情。但现在出现了一个研究数学的惊人新工具。转身离去,并声称当前存在的数学共同体比数学本身更重要,将是一个可怕的错误。

丑陋的真相。

尽管大家在这个博客和其他地方一直在说数学关乎理解,但只需看一眼 arXiv 就能发现,我们行业中的许多人正匆忙推出 AI 辅助的论文,以一种颇为不雅的急切姿态争当“第一个”证明某些东西的人。正如许多其他人所指出的,产生新颖证明的能力与展示理解或推动学科向新的有趣方向发展的能力之间,正在迅速形成一道鸿沟。随着人们不断产出越来越多的结果,莱顿宣言在名义上得到的尊重多于在精神上,看起来就像“一切照旧”,只不过时间尺度被大大压缩,而且被抢先发表的持续威胁悬在人们头上。

在我看来,一个选择有价值的问题、完全使用 AI 获得证明、彻底理解它,并利用它发展出有趣的进一步问题或方向的人,已经做出了实质性的数学贡献。即使他们在原始证明中没有提供任何新要素,我也会给予那个人实质性的认可。选择有价值的问题最终可能比产出证明更重要。

我们对猜想的痴迷往往大大低估了使回答(甚至提出)这些问题成为可能的探索性工作。我们现在有危险将这一错误放大一百倍,因为我们鼓励或奖励所有人争先恐后地按下按钮,尽快把这些新结果发布出去。我鼓励所有资深数学家(拥有终身教职特权的人)承担起创造未来问题和探索新想法的工作,而不是简单地使用 AI 来回答现有问题。如果你作为一名资深数学家,担心被 AI 抢先,那说明你还不够有雄心。

那么我们究竟要做什么?

除非提出某种实际影响人们行为方式的机制,否则观点文章最终毫无意义。最有效的工具将是经济手段而非修辞手段。数学家想要认可,数学家想要工作,数学家想要经费。我们目前用来影响这一点的工具是招聘和期刊接受论文。

让我提出一些非常基本的具体建议,随后是一些细节。

  1. 像对待 AI 辅助的工作一样评估所有工作。
  2. 让招聘更多地基于个人互动而非论文材料。亲自面试博士后和研究生。
  3. 对期刊提出更高要求,并放弃那些不做出调整的期刊。
  4. 在研究生教育中更加强调广度,但不要放弃技术技能。
  5. 举办更好的研讨会。
  6. 对 AI 的结果承担更多责任。

评估:

纳尔逊·科尔 famously 花了三年的星期天发现素因数分解

\displaystyle 2^{67}-1 = 193707721 \cdot 761838257287.

在{1903}中,这是对数学的一项贡献。在{2003}中手工分解同一个数将是一项同样令人印象深刻的算术壮举,但其对数学的贡献(即使此前并不为人所知)将小得多,因为这可以在计算机代数系统中在远不到一秒内完成。很明显,AI正在改变“容易”或“困难”的经济学——关于定理经济即将崩溃的讨论已经很多。随着时间的推移(也许很快),人们将形成一种新的认识,即什么仍然是对数学的实质性贡献,无论是提出有趣的问题、开发新程序,还是完全不同的东西。在未来,我认为没有理由仅仅因为一篇论文基于一个机器可以产生的结果(无论它是否确实由机器产生)就给予奖励。一个新证明仍然可以因其引入的思想而值得大量赞誉,即使其结论已经可以由机器获得。那么为什么不从现在开始呢?重要的是,我认为这绝不意味着在数学中取得进展将需要接触AI——只要我们继续重视人类的理解。虽然我觉得这是最具争议的建议,但我也觉得它是最不可避免的。它要求放弃我们奖励结构中一个长期存在的方面,但同时也是一个在未来将毫无意义的结构。目前,使用AI带有污名,许多AI披露的措辞读起来更像是试图最小化机器的贡献。如果我们把每篇论文都当作可能由AI辅助来评估,那么我们必须坚持要求其作者解释为什么这些数学是有趣的、它提出了什么问题,以及它如何与更广泛的主题相联系。难道我们不是希望人们无论如何都这样做吗?

招聘:

除非我们在招聘层面改变对人的评价方式,否则不可能让人们改变。过去懒惰的委员会有时会指向一篇JAMS论文、一篇Annals论文或其他一些出版物来证明候选人有多出色。我寻找的是一个关于你希望数学走向何方的叙述、解释为什么这可能实现的技术能力、能够就许多数学领域进行交谈,以及过去做过所有这些事情的可证明记录。这绝不是一个激进的新想法。招聘过程将不得不更多地依赖于个人互动,而不是论文档案。

不仅终身教职岗位,博士后和研究生岗位也应该进行面试,这应成为标准做法。我相信我们都有过这样的经历:录取了一个“研究高阶同伦论”的研究生,结果录取后才发现他们连圆周的同调都算不出来。与此同时,我也在终身教职层面面试过一些候选人,起初我对他持保留态度,但在我办公室进行了30分钟的交谈后,我完全确信,这个人不仅对数学有深刻的洞察力,而且能够将这种洞察力传达给同事。一旦我们采取这种方法,我们就有责任培养我们自己的研究生更好地表达数学,这是我们应当更加认真对待的事情。请注意,深刻理解数学与流利地解释数学之间也存在区别;它们是相关但不同的技能。理想情况下我希望两者兼备,但我最终更看重前者。

期刊:

早在AI出现之前,期刊体系就亟需改革。我们当前的激励措施已经在促使产生越来越多增量式的数学成果,这只会让整个系统泛滥。所需的彻底改革不会通过与编辑委员会的共识协议来实现。(你知道让学者们在任何事情上达成一致有多难吗?)被期刊接收早已不再是正确性的保证(如果曾经是的话),而仅仅是质量的认可标志。我在上面解释了我认为今后应如何评估稿件的理念。基于此,我要说,发布在arXiv上的论文中有相当大一部分不应该在任何地方发表。如果期刊对论文在写作、思想和阐述方面提出更高的要求,我认为这会让每个人的生活都更好——编辑、审稿人,乃至最终的作者。

如果编辑委员会无法做出调整,那么一个更激进的想法是(至少暂时)完全放弃期刊。(我仍然认为强调卓越实用性和清晰度的期刊有其存在价值(参见Essential Number Theory))。我并不是主张人们停止写论文,而是去除期刊发表这块遮羞布,迫使论文凭借自身的价值立足。这篇论文是否讲述了一个引人入胜的故事?是否经过Lean验证?我们应该产出更少(但更好)的论文,而不是更多。AI自主生成的证明,最好经过Lean检查,也有其位置,应当作为我们集体知识体系的一部分记录下来。(参见hexagonmath。)

研究生、一年级课程和讨论班。

我们面临的最棘手问题之一是如何培养研究生。典型的学位论文一直是布置一个处于前沿边缘的问题,一个能让学生学到技术技能以解决某个老问题变体的练习,并期望随着他们不断深入,能够将所学技巧扩展到新情况,进而有望拓展到更广泛的问题。在一个这样的论文只需按一下按钮就能生成的时代,我们需要基于我们希望优秀学生未来能做什么来重新评估。即使有 AI 资源,如果一个人不知道紧算术双曲三维流形和 Kolyvagin 系统这两个术语是什么意思,也没人能够探索它们之间的联系。(而且即使他们 somehow 能做到,他们为什么会在意呢?)给学生一个更广泛的数学学科概览已变得重要得多。我希望研究生在博士结束时达到的是这样一种数学视野:远远超出其学科范围,同时至少在某一类问题上具备可证明的技术技能。通常,学生毕业时在某个子领域具备技术技能,但他们对该领域其他方面的经验——更不用说数学的其他领域——只是些此后已被遗忘的技术性教导,没有任何真正的视野。我在上文主张,我们需要像 AI 参与其中那样来评估工作。但这并不意味着我们不需要教学生不用 AI 做深度数学,正如计算机的存在并不意味着我们不应再教孩子算术。

这对我们教什么以及学生如何学会谈论它有影响。研究生课程应让学生对主题在数学其他领域能实现什么有所理解。我们应期望他们保留对问题和联系的感知,即使他们已忘记一些技术细节。

如果我们要更多地根据人们如何当面展示理解来评估他们,我们显然需要更有意识地训练学生向他人解释数学,无论是当面、在研讨会上,还是向他们的同行。我们需要努力给学生学习这一技能的机会。记住,最成功的学生群体是那些一起学习、彼此谈论数学的人。

我们也不应忘记,并非所有完成数学博士学业的人都进入学术界。我们还应该问,博士训练的时长和结构是否服务于那些将在学术界以外追求职业的学生。

研讨会:

研讨会传统上是某人展示其最新成果细节的地方。因为数学很难,这几乎总是包括解释对先前方法的某个微小调整,往往没有足够广泛的背景使其有趣。相反,研讨会应很少完全聚焦于新工作。它们应围绕更广泛的有趣问题来构建,解释我们卡住的途径、我们能取得进展的途径、我们有希望的途径,然后也许在最后解释一些新颖之处,如果有的话。这一直是我鼓励学生做报告的方式!作为资深教员,我们都需要在研讨会上发声,要求演讲者提供更多。

所有权。

数学家作为一个职业群体,最好更多地主张这些成果的归属。机器所产出的东西,是建立在数千年人类数学探索的智识基础之上的。一旦你开始代表人类去争取这份功劳(而不是把这些成果归功于某位硅谷大亨或某个数学推特上的跳梁小丑),你立刻就会感觉好得多。

世界正在注视着我们。

我的院长最近访问纽约,会见芝加哥大学的捐赠者和其他友人,她交谈过的每一个人,无论是否数学专业出身,都想和她聊数学。世界正在注视着我们。有许多许多人关心数学,却未必具备深厚的技术背景(3Blue1Brown 有超过六百万订阅者!)。我所有人文学科的朋友都真心相信,让数学家存在于社会之中——既作为人类最古老智识活动之一的守护者,又作为知识前沿的探索者——是重要的。我理解,我们如此深切关怀的某种文化的一部分将会消失,而作为人类,对此产生情绪反应是非常自然的。但此刻正是向所有人说明的时机:有如此多伟大的新机遇、新可能,以及保持乐观的理由。我们正处在一个数学新时代的边缘,我迫不及待想看到接下来会发生什么。

注释:

关于 Duminil-Copin 言论的更多背景,另见这个 numberphile 视频。他的完整引述还包括“我们是一个有韧性的社群,我毫不怀疑我们会适应”。

这里提到的许多主题已在其他文章中提出过。举三个例子:

  • 数学家应更多地主张 AI 所产出成果的归属这一想法,也在Nestor Guillen 的文章中有所探讨。
  • AI 给了我们机会去怀抱远大得多的雄心这一想法,在Ben Antieau 的文章中被提出。
  • 我们需要重新审视奖励结构以建立正确激励机制这一想法,在Bryna Kra 的文章中有所探讨。

来源:Hacker News · terrytao.wordpress.com