为什么我们还要做这些?——当 OpenAI 用 AI 批量生成数学结果
Why are we even doing all this?
OpenAI 在 10 月初发布了 722 篇由 AI 生成的数学与物理写作文档,作者 Rikab Gambhir 以讽刺笔调批评其把验证正确性和理解结果的工作外包给学术界。他对比 Borges 的《巴别图书馆》,指出物理学界近期也产出 2500 篇类似写作文档,认为这类做法追求数量而非可理解性。
[这是Rikab Gambhir的客座文章。这篇博文最初以不同的文件格式撰写,并使用 AI 转换。——T.]
起初,他们冲着艺术家而来,
我没有发声,因为我不是艺术家。
接着,他们冲着数学家而来,
我没有发声,因为我不是数学家。
然后,他们冲着物理学家而来,
而这实际上真的很酷,他们给了我免费 token,还承诺替我解决整个领域的问题,现在我终于可以投身于发表论文这一重要工作,而不用再做物理了
十月初,OpenAI 实现了每一位数学家童年的梦想。
我自己不是数学家(只是一名理论粒子物理学家,有人会说这勉强也算不上科学家),所以我无法百分之百确定是什么激励一个人去追求数学。但我想,这个梦想对所有学者来说都是共通的:
仰望星空而心生惊叹,或享受一款复杂的解谜游戏,或受到一位鼓励你的老师的启发,并梦想着有一天,一个没有感情的商业机器人[1]会烧毁一片雨林,汇编出一份包含 700 条极其冷僻、几乎无法阅读、*可能*为真、无人能理解的事实的清单,作为一场营销噱头的一部分,为 IPO 造势[2]。
这大概就是你们大多数读到这里的人进入学术界的原因。至少,这是我进入学术界的原因。
1941 年,Jorge Luis Borges 设想了一座图书馆,其中包含所有可能被写出的书。在这座巴别图书馆的某处,有黎曼猜想的证明、量子引力的完整全阶理论,以及我将要写的所有论文。当然,其中也有错误的证明、理论,以及误导性的 Lean 证书,但这不是重点。
按照 2026 年的研究标准,Borges 的巴别图书馆将是人类历史上最成功的研究机构,包含数量难以想象的潜在正确的数学和物理结果,把OpenAI 区区 722 篇文稿乃至物理学界最近的 2500 篇文稿都远远甩在身后。
当然,大多数人认为 Borges 是个缺乏远见的傻瓜,没能认识到自己图书馆的商业潜力,因为他从未真正把它建起来。他没有那种创业的 STEM 精神,去筹集风险投资、启动 IPO,并宣布自己有潜力解决整个数学。他太在意从随机垃圾中筛选、试图分辨哪些是正确的、哪些不是,以及如何理解这一切,是多么徒劳。但 Borges 懂什么呢?他不过是个作家,而我们已经确认,艺术家已经过时了。
幸运的是,OpenAI 让我们离实现博尔赫斯的愿景又近了一步。他们没有生成所有可能的数学论文,而是找到了一种方法,以概率方式生成那些看起来正确的东西。这种效率提升的一个重要方面,是将确定实际正确性和理解这一枯燥、不体面且无利可图的工作外包给数学界(过去,这项工作通常由撰写论文的团队承担),同时也不浪费时间让论文变得人类可理解。当然,这是一项巨大的突破。在过去的几个世纪里,科学家和数学家解决问题的能力受限于他们理解解决方案的能力。这个瓶颈已被消除,如今,我们无法理解的科学和数学事实的数量在理论上已没有上限。
据我所知的学术界(主要来自 Twitter 和 LinkedIn,我假设它们具有代表性),似乎几乎一致认为,数学和科学研究的目的是在一个实际上永远不会有人阅读的仓库中收集大量可能为真的事实,这一仪式被称为“推进人类[3]知识”。这些结果是否文笔流畅、易于理解、阅读或观看时令人愉悦,甚至是否完全正确,都是次要问题——事实上,为了尽快推进人类知识,许多学者会对任何认为值得花时间让结果变得人类可理解的建议愤怒不已。当这些资源可以用来生成另一个结果时,解释或检查一个结果就是低效的。
这与我自己的亲身经历相符——我成为理论物理学家,并不是为了了解宇宙或更好地欣赏自然之美(那是哲学,我永远不会成为哲学博士)。我也不是花了数年时间学习写代码、制作赏心悦目的图表或精心撰写论文,只为创造某样东西的简单满足感(那是艺术,而我们已经确定艺术已经过时)。相反,我成为物理学家,是为了盯着由可疑正确性的洛夫克拉夫特式自动补全生成的大型直方图数据库,然后说“嗯,大概还行吧”,以此加入人类的知识前沿。
我为知识前沿而活,别无其他。
数学和科学关乎冷酷、坚硬的答案,正如艺术关乎生成图像,音乐关乎生成声波,文学关乎生成字符串。这些东西存在的意义就是作为内容被消费。任何理性的人,尤其是我们这些 STEM 领域的理性大师,都不会为了创造、学习或美的乐趣而追求这些东西——所有这些都是低效的,我们绝不能低效,以免扼杀人类的进步。LLM 不受这些低效的拖累,它们将仅仅是那些被落下、整天无事可做的人的追求。
就我个人而言,我期待有一天 ChatGPT 能代表我欣赏日落或享用美食,从而解放我的时间,就像我用 Uber 在风景优美的徒步旅行中节省时间一样。既然 AI 已经解决了我们所有的问题,我们可以致力于更重要的工作:进入量化金融、凭感觉编写体育博彩应用、消费 AI 生成的 TikTok 短视频,以及在 Twitter 上与政治机器人争论。
归根结底,这不仅仅是关于数学或物理学——而是从根本上重新构想身为人类意味着什么。通过外包好奇心、创造力和理解力的负担,我们终于可以专注于最重要的事情:创造价值、最大化生产力,并加速迈向科学的终极目标:在巴别图书馆中拥有一个完整的、可能为真的事实仓库,而没有人会费心去读它。
说实话?这很罕见。
作者:Rikab Gambhir(@finitephysicist)
感谢 Terry Tao 和 Rachel Ward 给我撰写客座博客文章的机会!也感谢 Radha Mastandrea、Benoit Assi、Manuel Szewc、Jure Zupan 和 Jesse Thaler 对本文的反馈。
记住你最初为什么选择进入科学和数学领域!
[1] 需要说明的是,在你童年的梦想中,你并不能自己制造那个机器人。它是一家大公司的机器人,他们制造它的一部分方式是偷窃你和你的朋友的东西。它也不是一个特别酷的机器人,它只会用人力资源式的话术说话。
[2] 需要说明的是,在你童年的梦想中,那是别人的 IPO,他们拿到所有的钱,而不是你。
[3] 在这里,“人类”是隐喻性的,并不指任何实际存在的真人理解任何事物。
来源:Hacker News · terrytao.wordpress.com