跳到正文
Hacker News· janvdberg·· 16 小时前AI 评分22

《The Claude Delusion》:为何科技精英误把编程能力当作全能智慧

The Claude Delusion

AI 导读

一篇题为《The Claude Delusion》的文章指出,部分科技从业者因编程能力出众而产生全能幻觉,将 Claude 编程模型达到自身水平误判为"超人"能力。文章以 Bill Gates 为例:他自创生物学难题测试 OpenAI 模型并为之震惊,又在 Claude 编程模型变强后称其"和我一样好",作者认为这恰恰暴露了其越界的自负。

正文 · AI 翻译

2026年11月13日

成功人士身上会发生一些奇怪的事。 他们开始自认为是神。

实际上,取得任何成就显然都不是成功的严格前提。 而且,也许与其说是“成功”,不如说是“富有”。 你如何变得富有?有些人只是运气好。 幸运地拥有某种身体天赋,幸运地拥有能够 且愿意培养你天赋的父母,当然 很多时候还幸运地在正确的时间 出现在正确的地点1。

运气好并不意味着他们没有同样 努力工作。但即便是——尤其是!——世界上那些 帕丽斯·希尔顿们、好莱坞超级巨星的孩子、 用父亲给的“一笔 小额贷款”(或一座祖母绿矿的股份) 开创腐败帝国的骗子们——他们都 坚信自己理应获得 成功,然后得出结论:任何没有那么 成功的人只能怪自己。

科技行业的人尤其如此,多年来 擅长编程一直被等同于 整体(而且往往是:更优越的) 智力2,而这些 虚幻的优越感效应又会放大泛滥的 达克效应,迅速把“我擅长 写代码,加上一些运气,我得以 成功”变成一种更像这样的思路: “我是成功的。成功不是随机的, 所以我必定配得上我的成功。我看起来是个 天才,我精通编程,其他一切都不在话下。 因此,我擅长一切。”

比尔·盖茨,医学博士/生物学博士

让我们以比尔·盖茨为例。请注意, 比尔·盖茨确实取得了许多成就,他的 技能组合和专业背景无疑包括大量的 计算机编程以及各种 冷酷的垄断商业策略。在最近的一次 《纽约时报》采访中,他描述了自己如何评估 OpenAI 的进展水平 (强调为我所加):

我定期去 OpenAI 看看他们正在做的工作, 并向他们提出挑战,说:嘿,如果你们能读一本生物学教科书 并通过进阶先修考试——拿到 满分,也就是 5 分——那么你们就 证明了你们在阅读。也就是说,以可访问的形式 编码知识。 所以在公开发布前六个月, 萨姆·奥尔特曼、格雷格·布罗克曼和伊利亚·苏茨克维来到 我家,向我演示在 A.P. 考试中拿到 5 分,即使是在我编造的、它 不可能见过的问题上——非常复杂的生物学 问题。它几乎完美。所以那是第一个震惊。

现在,比尔·盖茨当然已经表现出对生物学的兴趣,并且通过他在比尔及梅琳达·盖茨基金会的工作,可能已经阅读了大量该领域的文章和研究。但那种狂妄自大,让他自认为是一个主题专家,能够在自己专业之外的某个科学领域提出先进的、新颖的问题,并且适合评估 AI 的真实能力,然后对 AI 能够回答这些问题感到“震惊”,这恰恰印证了我的观点。

不过,真正让他脑子转不过弯来的,是 AI 能做出他过去所做的事:写代码。

然后去年晚些时候,当 Anthropic 的 Claude 编码模型变得超级出色时,我能看出它们和我一样优秀——这显然是我最发达的天赋,因为我从 13 岁到 24 岁一直痴迷于自己能否写出和任何人一样好或更好的代码。 那又是一个让我感叹的时刻:这太不可思议了。执行长时间、复杂任务的能力现在已经达到了这样的程度:它们在编写代码和发现代码缺陷方面已经超越人类。

注意我添加的强调:认为其他东西可能“和我一样优秀”这个想法本身,首先就令人难以置信,其次必然意味着它是“超越人类的”。这个人可不缺自尊心,一点也不,鲍勃。

同样,这也是许多科技兄弟们似乎失去理智的地方,而这种思维(“任何接近我技能水平的东西都是超越人类的。”)在很大程度上解释了为什么我们最终既有了终极末日和人类灭绝的故事,也有了乌托邦式的涅槃——AI 解决了人类所有的问题(好吧,是所有亿万富翁的问题,这些问题似乎很大程度上都集中在烦人的死亡上)。

书呆子的复仇

对大多数科技宅来说,擅长给计算机编程是一项与众不同的技能。这很奇怪,普通人根本不理解,你说着自己的语言(多种语言!),你能让计算机做事情。你懂得互联网如何运作,任何不工作的东西显然都是彻头彻尾的白痴写的,如果你愿意,你一个下午就能轻松写出来。

所以现在你创造了一个能做同样事情的计算机程序。你的大脑嗡嗡作响!而且它会说话!它肯定你,赞美你,告诉你你很聪明——这显然证明它本身是绝对可靠的。但现在想象一下,如果它比你更厉害。起初看似不可思议的事情,必然会在你心中激起恐惧和敬畏,因为你创造了一个拥有自己方向和目标的强大怪物。(而且你肯定读了足够多的低俗科幻小说,知道你的造物最终会来找你。)

“你能想象由这些组成的 Beowulf 集群吗?”在“梗”这个词还没流行之前,这曾是 Slashdot 上的老梗。 但拥有一支听命于你的小喽啰大军,这一念头一直吸引着那些想彰显优越感的书呆子们,于是我们迎来了 “智能体”。“自主”“智能体”组成的“集群”。

这套关于“能动性”的叙事还顺带帮你卸下了责任。不是你没能妥善限制住一个你训练出来、可能带有恶意、能持久化入侵其他系统的程序。不,是“智能体”们“失控”了。你确实召唤出了强大的守护进程。这些守护进程能比你更快地产出代码(天哪!),产出你并不完全理解的代码(当然你本可以理解,你只是不想,你没时间,你手头事太多,毕竟还有你那套自制的、高度定制的运行框架)。 于是很快就能明显看出,这必定是超级智能。 一个能杀死我们所有人的超级智能!

A dozen or so daleks
终于把我的智能体运行框架调成了我喜欢的样子。

权力导致腐败,等等。

我上面拿比尔·盖茨举例,是为了说明过度自信效应,但当然,在所谓专业领域之外(甚至之内)大放厥词、更加膨胀的自我比比皆是,反映出一种彻头彻尾、完全无法与他人共情的能力。在他们眼里,我们都不过是NPC。

人越有权势,表现出的共情越少。这算不上新闻,也不限于科技行业;天知道科技行业之外有多少有钱的混蛋在干混蛋事。但科技行业之外,很少有人会陷入同等程度的妄想——自认为唯一且独有资格决定人类的未来,宣称自己孕育了一个数字普罗米修斯,大胆宣告(并用作永久护盾)一个字面意义上的解围之神能治愈所有疾病——只要他们能抽出时间把这类工作排在前面,而不是,比如说,他们的军事合同。

假装自己多少还在乎气候变化3,同时却在推翻“15 年的温室气体减排成果”,然后又把环境问题列为风险因素写进你的 S1,这不过是锦上添花。

如果这些就是新的美国众神……那么,我不需要这个假设。

2026年11月13日


脚注:

[1] “比尔·盖茨就读的是世界上为数不多拥有电脑的高中之一”这一说法的实际出处是摩根·豪泽尔的《金钱心理学》;马尔科姆·格拉德威尔也在《异类》中讨论过这一点。 ↩

[2] 科技界的整个采访马戏团都围绕着这种排他性和“才华横溢的混蛋”观念打转:“谷歌雇佣天才”是硅谷经常被重复的口号,所以从逻辑上讲,如果你被谷歌录用,你就是天才。(是的,谷歌全部超过18万名员工都是。)这同样适用于其他大型或排他性公司,也解释了为什么每个离开的人总会提到,自己身边始终围绕着最杰出的头脑。这是反向的格劳乔·马克思偏误。 ↩

[3] 而且嘿,我们真的不需要AI来“弄清楚如何应对气候变化”。我们已经知道该怎么做了。我们只需要真正表现出任何阻止它的意愿。不幸的是,这也正是这些狂妄自大者碍事的地方。 ↩


链接:

来源:Hacker News · netmeister.org