跳到正文
Hacker News· speckx·· 19 小时前AI 评分34

AI 冲击程序员之后,谁会是下一个?从“可验证性”看自动化的边界

AI came for the coders. Understanding why tells us who's next

AI 导读

一位从业 25 年的工程师以自身经历分析 AI 对编程的冲击:他用约 5 美元算力、几小时就微调出本地运行的开源语音克隆模型,连妻子都分辨不出。文章引用 Jason Wei 的“验证者定律”和 Andrej Karpathy 对“可指定”与“可验证”的区分,指出任务越容易被评分验证,越容易被 AI 训练掌握,而这条分界线与工作“像不像人干的”无关。

正文 · AI 翻译
A queue of office workers holding a laptop, a sketchbook, a notebook, a spreadsheet and a headset. The worker with the laptop is stepping through a bright orange doorway and dissolving as he goes.

我以前开玩笑说,我拿的是诗歌学位而不是计算机工程学位,这样万一这股计算热潮退去,我还能有个退路。多亏了AI,这已经几乎不再是个玩笑了。

软件工程——我职业生涯过去25年的大部分时间都花在这里——正经历一场信仰危机。那些真心相信手写代码之美的人,眼看着这份美好被夺走。而那些喜欢解决问题、用技术创造事物的人,无论写不写代码,都得到了新的玩具去摆弄,新的工具去掌握。

我把它比作19世纪以来的木工行业,当时粗刨、凿子和手锯让位于电动打磨机、路由器和台锯。行业规模扩大了,如今普通人也能买得起像样的家具。但也付出了另一种代价。

物理自动化的直截了当

如果你乐意成为一名机器操作员而不是工匠,那你就能谋生。然而,如果你爱上了手刨刨出的薄木花在光线下闪烁的样子,如今唯一还能靠此谋生的方式,就是拍下你的手艺,成为怀旧爱好者的网红。

我们拥抱了体力劳动的自动化,因为它给许多人带来了实惠的商品和空闲时间。但我们也因此贬低了手艺的价值。坐在桌前工作变得比制作桌子更受尊重。但当聪明程序员的工作受到如此猛烈的冲击时,恐惧便波及了整个案头工作者的世界。如果这样的脑力工作都如此脆弱,那么下一个会是什么,又会是谁?

一个令人安心但错误的答案是:“人性”的东西是安全的,而编程是技术性的。要理解哪些人类技能能在AI自动化中存续,一个更好的方法是看一条与机器学习同样古老的原理,它能很好地解释AI能自动化什么、不能自动化什么。这条原理自50年代以来从未改变,短期内也不太可能被打破。它很容易理解,但它的预测却可能反直觉。

如此多的错误假设,如此多毫无根据的恐慌,都源于对AI自动化自然轨迹本质的误解。

数字自动化的反直觉本质

为了辅助语言学习,我最近创建了一个自己的声音克隆来帮助练习发音。这花了我几个小时和大约5美元的计算额度,重新训练了一个免费的开源模型,现在它在我MacBook上本地运行,完全在我的掌控之中。我用它录制了一期我的AI讲解视频,并放给我妻子听——她是一位专业音乐家,对声音极为敏感,和我一起生活了近25年。

她分辨不出那不是我。

创作艺术、写诗写歌、认出所爱之人的面孔或声音,感觉像是固有的人类活动。其中一些,比如面部识别,已经沿着计算机科学家Larry Tesler预测的方向发展:“智能就是机器尚未做到的事情”。这个“智能”的标签并没有在上面停留太久。它只是成了日常生活的一部分。

然而,那些感觉最像“我们”的事情,比如艺术、写作、说话,甚至编程,一旦由机器完成,就动摇了我们的身份认同感。在这里,AI的标签牢牢贴住了。机器做着我们认同的工作,也让我们把自己关于智能的自我形象投射到了它们身上。

然而,AI 有时也会显得极其愚蠢。研究工作中 AI 的研究人员为 AI 在不同学科间这种不均衡的进展起了一个名字:锯齿状前沿。1 事实证明,机器擅长之事与不擅长之事之间的分界线,与我们觉得困难之事与觉得容易之事之间的分界线相去甚远。

前沿之所以看起来参差不齐,只是因为我们衡量它的标准是工作感觉有多“像人”,这意味着某些学科乃至行业不会很快“追上”最前沿。

事实是,语音合成以及一切我们或视为理所当然、或担心会让我们被淘汰的东西,都遵循着 AI 能很好地自动化什么的规律。这些规律源自机器“学习”的方式,而“学习”本身也只是一个纯粹拟人化的比喻。

理解什么可以被自动化

20 世纪 50 年代最早的 AI 程序是用手工编写的推理规则来设定的。具备学习能力的程序也在同一个十年出现,其中包括 IBM 的一个程序,它通过与自己的早期版本对弈来提升跳棋水平。2 学习需要的不仅仅是设计,还需要一种记分的方式。这就是为什么 AI 如此擅长玩游戏,最终在寻找最佳取胜之道上超越了我们。

AI 研究员 Jason Wei 创造了“验证者定律”:一项任务越容易检查,就越容易训练 AI 去完成它。Andrej Karpathy 将旧的软件做法区分为你能规定的东西,将新的做法区分为你能验证的东西。3 事实证明,一段语音的数字录音很容易检查,也很容易对照被克隆的参考语音进行验证。

为简便起见,我把 Wei 等人认为检查与验证所必需的所有要素——比如有正确答案、能够可靠地给它打分、以及能够用足够的算力将其自动化以高速反复进行——统统归入“评分”一词。

所有这些组成部分对于当今实现 AI 自动化都是必要的。但即便数据和算力变得越来越易得,归根结底,某种数值形式的分析以及对“正确性”的某种评估,才是决定什么能够(永远)被评分的关键因素。

然而,评分只是预测 AI 自动化的一部分。另一部分是价值,以及我们对“有价值”含义的共识。将工作沿这两个维度绘制,就得到了四个可供考虑的方框。

A 2x2 matrix with automated grading on the horizontal axis and objective value on the vertical. Parenting sits top left, coding top right, arts and crafts bottom left, poetry bottom right.

软件是人类有史以来产出过的最容易被评分的工作之一。它要么能编译要么不能,测试要么通过要么失败,而自动化测试在普通机器上只需几秒钟。只要它符合用途,就没人会质疑可用的软件值得拥有,这使代码落在右上角的方框里。我克隆的语音就在它旁边。它要么通过妻子测试,要么通不过。

然而,正如我之前所说,永远不会有一个编译器能检查你诗中的 bug。你可以克隆一位诗人的风格,并恰到好处地遵循所有形式规范。但诗歌最大的诀窍在于避开平庸,而这恰恰是无休止的数值比较与调整迭代所趋同的东西。形式和风格可以被评分;诗本身好不好则不能。这使诗歌落在右下角的方框里。如果你想了解更多,我做过一整场演讲来谈这个。

从社会的角度来看,育儿也许是世界上最重要的工作。自动给它打分(或者打分本身)显得荒谬,尤其是因为要看到结果可能需要数年、甚至数代人的时间,而这些结果本身往往容易识别却难以量化。它位于左上角,价值很高,却无法评分。

最后一个格子容纳的是既无法评分也无法客观估值的工作。我们那些成为业余木工的木匠,因自动化的物理机械而被归入这个格子,但如今却因此对数字自动化免疫。就像诗歌一样,产品的价值是品味问题,而品味因人而异,难以量化。

预测什么会被自动化

除了编程之外,艺术和写作的自动化感觉像是在解决一个几乎没人想被解决的“问题”。4 许多已经被自动化的东西让我们大多数人感到惋惜,而许多尚未被自动化的东西又让我们心生不满。这是因为 AI 自动化的可能性并不遵循我们的意愿,而是遵循上文所述的自动评分与客观价值的原则。它感觉有多“像人”也并不重要:如果它在两者上都得分很高,就有可能。但这并不意味着它很可能发生。它只是向我们展示了在哪里可以排除不可能。

Venn diagram of what people care about and what AI automates. Coaching, caring and leading are cared about but not automated. Art, writing and code sit in the overlap. Scheduling and record-keeping are automated but not cared about. Laundry and dishes fall outside both.

使其成为可能的是市场激励。这与能否就客观价值达成一致不同。这关乎资本主义,关乎不仅拥有劳动力生产资料、还拥有知识工作生产资料的梦想。几十年来,一个拥有笔记本电脑的创意工作者拥有自己的生产资料,这比任何工厂工人所能拥有的都多。按需批量生产营销图像的 AI 把这些生产资料交还给任何支付订阅费的人,只需少量剩余工作即可发布并完成工作。

商业艺术和写作属于这一类。一份简报和一个付费客户提供了价值共识和稳定收入,这是纯艺术所缺乏的。AI 正在自动化创意商业工作,这意味着艺术家将更难用与他们的纯艺术或文学实践相同的技能谋生。

不过我必须指出,纵观历史,想要靠纯艺术谋生的人很少能轻松做到。梵高靠弟弟的津贴生活,许多著名艺术家靠遗产生活。裙带宝宝是亘古不变的传统。

大约在过去一个世纪里,还有副业和日常工作:沃霍尔画鞋类广告,霍珀为杂志画插画,鲁西迪写广告文案,海明威和奥威尔做过记者。以商业方式实践艺术创作来磨练技能,并以此支付房租,这才是 AI 时代真正受到威胁的东西。

Stacked area chart, an estimate from 1300 to today of how artists and writers lived without a second profession: the Church, secular patrons, private means, sales on the open market and, from about 1880, commercial creative work.

我自己对艺术家和作家在没有第二职业的情况下如何生活的定性估计。5

当然,对大多数插画师、文案和译者来说,商业工作从来不是为更高追求所做的排练。它就是工作本身。在作家协会的一项调查中,四分之一的插画师和超过三分之一的译者表示,他们已经因生成式 AI 而失去了工作。6 对他们来说,摆在面前的选择,就像旧时的木匠一样,是成为机器操作员。

为 AI 时代重新学习技能

在知识工作中,AI 产出交付物;人达成结果。交付物是你可以交出去的东西:报告、代码、幻灯片、营销图片。结果是这件事最初的目的,比如你向董事会做的演示,或者你谈成的销售交易。它只有在其他人同意、采纳并完成复杂的社会互动时才会发生。

许多交付物可以被评分,这就是为什么 AI 在那些可以被评分的事情上不断变得更好。相比之下,育儿是一组复杂的结果,每一个都无可争辩地有价值,却全都无法评分。

然后是问责的问题。当事情出错时,模型没有脖子可以掐。然而,如果你因为用 AI 做的工作而被解雇,你的替代者会坐在同一把办公椅上,使用同样的 AI 订阅方案。

资本主义用一种存在性威胁让人保持负责:不工作,就没饭吃。它的运作远低于工匠对自己工作的自豪感。但它像机器一样运转。毕竟,市场有其自身的智慧。

鉴于这些力量在起作用,在机构教育和企业教育中,我们现代技能培养的重点应该是那些不能被自动化也不会被自动化之外的一切。同样重要的是,要理解如何使用 AI 自动化来提升我们所达成结果的价值,以及我们生活的价值。

对个人来说,这意味着几个好习惯:在要求交付物之前先确定结果是什么;检查返回的东西,就像你的名字在上面一样(因为确实会!);与工作保持足够近的距离,以便你能验证它既正确又适合目的。我把这些以研究为导向的实践发展成了一种名为 DRIVE 的方法。

学校评分教会我们一切都可以被衡量,这就是为什么我们害怕失败。客观衡量使学校教育可规模化,因而易于获得(像家具一样),但代价是那些在 AI 时代最有价值的无形之物:个人故事、大局观的创造性思维、明智的判断、不可动摇的伦理,以及为了学习而挣扎的能力。我在 Knowing the Answer Was Never the Point 中特别为挣扎做了论证。

集体而言,工作是停止只根据可以被评分的东西来评估自己。学校必须少花时间把分数当作学过的代理指标,多花时间学习如何学习和思考本身。雇主必须继续接纳初学者,并把他们当作未来的领导者来对待,以免未来十年无人可选。7 从 AI 自动化中获益最多的人必须分享他们的发现。相互学习 AI、我们自己以及我们的价值观,可以让我们重新找回团队的感觉。

希望?真的吗?

我遇到的几乎所有反 AI 论点都把 AI 当作一个爆发点,用来哀叹财富的两极分化和知识工作的被俘获。不满是真实的;技术是它最尖锐地显现的地方,因为它击中了我们的痛处——我们的智识身份。

作为一名程序员和创作者,我曾两次遭受沉重打击;你大概会以为我对未来只会悲观,而不会抱有任何希望。我的乐观源于我理解AI能自动化什么、不能自动化什么,源于认识到在这一切乱象中,除了工具本身,晚期资本主义也难辞其咎,也源于一种必然:我的侄子们将继承一个AI原生的世界。我想尽我所能,成为一股向善的力量,帮助我们过渡到一个未来——在那里,我们恰当地重新聚焦于智能、安全且妥善地运用AI,以造福所有人。

与此同时,诗歌仍留在它一直所属的地方——我的后兜里。

  1. Fabrizio Dell’Acqua及其同事,Navigating the Jagged Technological Frontier,《Organization Science》37(2),最初于2023年流传:一项针对波士顿咨询集团758名顾问的实地实验。↩︎
  2. 所设计的程序是Logic Theorist(Newell、Shaw和Simon,1956)。那个会学习的程序是Arthur Samuel的,描述于《Some Studies in Machine Learning Using the Game of Checkers》(1959),正是这篇论文普及了“机器学习”一词。↩︎
  3. Jason Wei,Asymmetry of verification and verifier’s rule(2025)。Andrej Karpathy,Verifiability(2025)。↩︎
  4. 斯坦福的WORKBank审计在2025年1月至5月间,就104个职业中的844项任务询问了1,500名工作者。总体而言,工作者对其中46.1%的任务的自动化表示欢迎,在艺术、设计和媒体领域则为17.1%。这些是任务占比,而非人数占比。↩︎
  5. 整张图表都是基于推测的估计,仅最后二十年对照过调查数据。请从它的形态来解读。教会让位于世俗赞助人,赞助人让位于开放市场,市场又让位于商业性创意工作(以橙色标示),据我估计,后者已支撑艺术实践约140年。其右端背后有两项调查。英格兰艺术委员会的Livelihoods of Visual Artists(2018)在2016年3月询问了2,007名艺术家2015年的收入:90%的人表示其艺术实践所得不足以维持生计,近七成另有工作。UK authors’ earnings survey发现,仅靠写作维生的职业作者比例从2006年的40%降至2022年的19%。↩︎
  6. Society of Authors调查,2024年1月,787份回复:26%的插画师和36%的译者。另一项针对约140万条自由职业招聘帖的研究发现,在ChatGPT发布后的八个月里,写作和编程类帖子相较手工技能类帖子下降了21%,图像创作类帖子下降了17%(Demirci、Hannane和Zhu,Management Science,2025)。↩︎
  7. Erik Brynjolfsson、Bharat Chandar和Ruyu Chen,Canaries in the Coal Mine?,2026年8月修订版,基于截至2026年6月的美国薪资记录。在AI暴露程度最高的职业中,22至25岁工作者的就业率比其与暴露程度较低职业中的同龄人保持同步增长时应有的水平低约19%,主要原因是招聘人数减少。作者强调,这是数据中的一种模式,并不能证明是AI造成的。↩︎

来源:Hacker News · robertpeake.com