为什么我们该拒绝被兜售的"AI":一篇对前沿生成式 AI 的批判
Artificial Insanity
一篇评论文章认为,当前前沿生成式 AI 仍只是"高度增强的随机鹦鹉",无法具备真正的智能判断,却被包装成即将超越人类智能的技术兜售给公众和政府。文章称这类技术至多是人类既有风险的加速器,真正的危险来自使用它的人,而非 AI 本身。
2026年10月10日下午3:57(CST)
认为“人工智能”一词不足以描述当前生成式AI模型前沿的说法确实有道理,但原因不在于“人工”这个词。坦率地说,把大语言模型归入AI的范畴,是对传统AI的一种侮辱。我的意思是,从技术上讲,1980年的电子游戏可能比现代LLM的内核包含更多的逻辑分支点,而且读起来可能有趣得多。
这显然有点不公平的比较,但当然,前沿“AI”与任何长期存在的智能定义之间的比较也是如此。这就引出了我们在这里的原因:我想提炼出我们所有人都应该拒绝被推销给我们的“AI”的真正原因,以及为什么我们应该鄙视那些推销它的人!这将从非常美国的角度来写,因为美国的经济和政治动态是美国AI公司用废话淹没美国人的核心原因。
首先,我们需要非常清楚一件Anthropic和OpenAI等公司在公开讨论中非常不喜欢听到的事情:前沿AI仍然只是一只高度增强的随机鹦鹉。一只拥有足够火力的随机鹦鹉可以是一种可怕的生物,它在许多不同的情境中可能有用。然而,这只鹦鹉无法企及任何严肃形式的意识,因此永远不可能具备智能判断力。无论这只鹦鹉操作的数据如何被精炼,或其选择如何被增强,这只鹦鹉总是容易出现不可预测且极其不受欢迎的token选择。训练一只真正的鹦鹉会得到更好的判断力,因为它操作的数据范围是人工鹦鹉无望操作的,除非有人能想出如何让光速更快。
这就引出了AI被推销给我们方式的一个重大潜在问题:它被夸大得听起来远超其实际能力,并且被作为在不久的将来能够超越人类“智能”的东西推销给人们/政府,而它根本不具备智能。确实,通过这种AI实现,有可能超越人类基本的记忆和存储限制,但在接近人脑甚至昆虫大脑的推理能力方面,它已经是一个物理上可证明的死胡同。
这项技术不存在“机器崛起”情景的危险,虽然我觉得有点不好意思不得不说,但像Jacob Coxon这样的人在很大程度上充当了美国AI公司的“有用的白痴”。他们接收了所有错误的信息和所有错误的危险,并且无论是否故意,通过传播围绕其潜在危险的虚假叙事,意外地夸大了这项技术的感知范围/重要性。这只鹦鹉唯一能危及人类的方式是,如果有人说“让我们把这个混乱的token预测器放在其输出能杀人的位置”。人们会愚蠢到这样做吗?嗯,是的,当然会。他们会愚蠢到大规模这样做吗?也许吧,但这里构成的危险不是来自AI,而是来自人,一如既往。
这项技术在当前发展轨迹上带来的危险,最好被理解为人类自身已有危险的简单加速剂。例如,设计一种致命的新病原体本就已经是一种危险——进入门槛主要在于所需的硬件,因此能够快速自动生成和/或分析变体实际上并没有增加多少危险,它只是为已经在从事这种危险行为的国家行为体提供了一种辅助机制。请注意,这一领域硬件的可获得性/可扩展性极有可能在不久的将来间接导致我们的灭绝,但按照当前轨迹发展的AI不太可能改变太多。
这一范式在当前一代AI技术及其轨迹所构成的几乎每一类“物种级”危险中都很明显,它充其量只是物种内部已有“错位”的加速剂。我们的全球社会经济秩序未能与我们的物种级需求保持一致,并拥抱了一种冷酷、反社会的精神气质,这几乎肯定会导致全球人口中的很大一部分在不久的将来某个时候死于可怕的、过早的死亡。AI与此无关,它只是帮助稍微加速了这一进程。AI还在帮助威权政权施加各种形式的法西斯主义,其方式连纳粹德国都只能梦想,这对我们集体生活质量构成的危险,比我在美国媒体上听到的任何东西都更为迫在眉睫。
那么,为什么许多正把我们推向气候毁灭的同一个反社会群体,现在突然如此关心AI构成的“危险”,并且似乎违背其受托责任地警告我们必须放慢发展并寻求监管?当然,原因完全是自私自利的,你几乎完全可以从他们以往的叙事史中判断出来!他们正在把这种“对物种的威胁”叙事与“为了我们的孩子和整个西方文明,我们必须领先中国”的叙事结合起来(这极具讽刺意味,我稍后会解释原因),同时从每一项被感知到的成就中拼命榨取好处(尤其是他们大肆宣传且高度扭曲的数学“胜利”);重要的是要理解,这些叙事彼此直接相关,这样才能理解其背后的原因。
首先你必须意识到,这些公司完成了人类历史上最大的盗窃。他们窃取了所有能数字化的东西,几乎不尊重许可或所有权(除非已被足够大的实体强制),他们假设自己重要到政府会在事后拯救他们免于罪行。他们完全依赖于自己开发了革命性技术的叙事。一只被充分增强的鹦鹉真的具有革命性吗?在某些方面,在某些行业,算是吧。在未来几十年里,它肯定会让很多工作变得更烦人、更不令人满意。它的经济收益能抵消经济成本吗?有待商榷,尤其是当你考虑到对后代劳动力尚未实现(但可预测)的后果时。事实上,这些公司背后的当前财务模型甚至不太可能持续,除非它们成功实现监管俘获。这就引出了另一个重要观点。
拼命夸大AI在公众眼中的重要性的另一个原因是监管俘获。这些公司想为自己尽可能多地开辟例外,并迅速抽走梯子。他们可以进行大规模盗窃,但其他人不行!我还预计这些公司将开始幕后尝试埋葬/阻碍开放权重模型,如果这还没有发生的话。这里的一些动态与软件工程和开源的动态非常相似,我不久前概述过,事实上AI也在加速该生态系统中许多现有的危害。对于一个反社会实体(例如公司)来说,开放只有在通过贬值相关劳动力获得的利润超过从劳动力本身获得的利润时,才是一个好主意。相比之下,看到这些公司内部对蒸馏实践感到恐慌真是好笑;哦不,他们在偷我们的东西,在我们偷了所有人的东西之后!因此,这些公司非常小心地向公众呈现这种恐慌,因为他们非常清楚自己反对数据被“偷”所固有的讽刺。
现在,为了保护自己的利益(我怎么说都不够,那些利益都源自历史上最大的盗窃)并掩盖自己的罪行,这些公司有充分的动机试图重新发明版权法。他们必须在这里与美国经济中的其他大玩家抗衡,因为一些非常强大的公司非常 vested 于现有版权法。这就是你开始尝到“我们必须打败中国”叙事中讽刺的地方。这些公司已经践踏了个人财产权。例如,即使是一些最宽松的源代码许可证也往往带有一些宽松的条款和要求,或者只是要求作者在衍生作品中获得署名。所有这些源代码都被吸走了,毫不在意。来自任何给定作品的每个token以及该token影响的每个权重(以及该权重影响的每个权重,等等)都应合理地被视为该作品的衍生品,并应被要求遵守许可证条款。按照这个逻辑,这些LLM的任何输出几乎都是完全非法的。
当然,当符合自身利益时,这个行业就会诉诸实用主义;如果你的源代码是公开的,你就应该希望它被用于“公共利益”,而这当然就是现在的情况!这绝不是把数十年人类劳动所代表的巨大力量集中到少数人手中!绝对不是!哦,而且这也不是衍生作品,因为人们可以阅读那些源代码,而许可证并不会转移到他们的神经元上!这完全就是同一回事!你知道就是这样的!就是同一回事!我告诉你就是这样,不,闭嘴。当然,这里有一个有趣的相似之处:由于许可证不兼容,付钱让实习生“重写”(即除了复制粘贴之外什么都做)一个开源库,这种极其虚伪的做法在各种软件行业并非闻所未闻,而AI是一种方便的手段,可以完全自动化这种盗窃。不需要实习生了!所以你有一个建立在盗窃之上的系统,它还能促成更多形式的盗窃,这很有趣,但那些次级盗窃与主要盗窃相比几乎不值一提。
也许在某个时候,这些公司会着手修订一个“仅限许可”的数据集,但除非他们在重塑整个西方知识产权概念的竞争中失败,否则他们并没有太大的动力这样做。这种讽刺现在应该非常刺耳;公司进行大规模盗窃,利用西方的财产和所有权概念来保护自己,然后(由于其盗窃的必要性)试图为其他所有人废除那些所有权概念……除了那些大到足以争取维护自身权利的其他公司。这实际上是在强制推行一种“国家所有权”模式,就像他们在那些“共产主义是邪恶的”宣传片里警告你的那样,只不过这个国家只是一群足够强大的公司的集合。就像某种企业寡头政治。天哪,我在哪里听过这个词?
“AI会杀死我们”这种叙事的另一个重要原因是,这些公司无法兑现他们的承诺,至少按照他们目前的轨迹无法兑现。他们不得不过度承诺,以便过度夸大他们正在制造的东西的认知。这直接关系到他们的经济可持续性,并且很快就会关系到他们对公共投资者做出的承诺。监管“放缓”对投资者来说是完美的叙事。叙事从“我们没有交付不足,因为我们实际上已经用尽了关于赛博格鹦鹉附件的新想法,我们保证”转变为“我们不得不为了物种的利益而放缓,但等待是值得的,我们保证。”完美!
总之,资本主义就是这样,这些公司拼命想要证明其商业模式和估值的合理性。鉴于这些估值就是如此,在我看来,这些公司要么会“成功”,要么会从美国GDP中刮走一大块,以至于其经济体液飞溅的感觉能一路传到中国。中国政府一定觉得整个情况,以及西方对“AI驱动的毁灭”的挥手敷衍,他妈的太搞笑了;但他们明白避免戳破这个叙事的理由。因此,我们已经有了一个非常扭曲的激励体系,促使美国政府接受所有这些关于AI是什么、能成为什么、需要成为什么等等的谎言。
那么让我们在这里稍微总结一下。他们以我们所能想象的最深层次之一,从我们整个物种身上偷走了东西。他们似乎一再误导公众,并对自己做过的事和打算做的事拥抱虚假叙事。他们拼命逃避问责,为此不惜采取任何可能的欺骗手段。很容易证明他们主要服务于私人利益。他们把我们困在了一个对西方价值观整体而言双输的命题中;这适用于无数社会基础,从财产所有权到民主。他们的长期战略,我想称之为一种被动种族灭绝。哦对了,让我接下来就谈这个!
那么,如果这项技术真的如承诺般兑现呢?如果一只核武装的半机械鹦鹉就足以取代几乎所有白领劳动呢?嗯,这其实本来就是那个设想。它目前即便能力有限,也确实有潜力减少/消除大量白领劳动。现实的想法是,在未来几十年里,沿着当前轨迹,AI的承诺将带来“足够好”的结果,以消除大部分白领劳动力,与此同时机器人技术迎头赶上,并在规模上变得更具可行性/成本效益,以取代更多蓝领劳动。你可能已经注意到,美国正不遗余力地过度资助监狱、资助不足教育,并重新推高出生率。我们不要在这里得出任何硬性结论,但不妨推测一下:如果你预见到30年后更需要的是无用的监狱劳工肉袋,而不是受过良好教育的劳动中产阶级,你也许就会做这样的事。
现在让我们从推测回到结论:我们知道工业革命是如何运作的。我们知道生产率提升不会流向工人,普通工人阶级公民的生活水平并不真正与任何因素相称(你得非常牵强才行),无论是“剩余劳动力”和“GDP”之间的因素,还是包括这两者在内的因素。传统上,当工人阶级能够积聚足够筹码来提出要求时,生活水平才会提高。要是逃散到蛮族部落仍然是个选项就好了,哦主啊,要是那样就好了。所以,如果这种形式的AI真的兑现,并设法引发一场真正的工业革命,那么在一个几乎所有必要劳动都已自动化、整个阶级不再拥有任何筹码的社会里,工人阶级会怎样?
这是一个真正的乌托邦,每个人的需求都得到满足,除非自己想工作,否则没人再需要工作!就是这样,不,闭嘴,我告诉你就是这样。
不,当然,你在这里可以把一些事情拼凑起来。你可能已经注意到,几十年来,一些科学家一直在上蹿下跳、大声疾呼气候变化问题,而左翼政客承诺解决这些担忧,右翼政客则承诺这些担忧被夸大了。实际上,每一方的每个人(除了那些真正一无所知的人)都明白这些担忧是合理的。较少为人所知、但确实是心照不宣的是,气候变化开始变得重要的时间线,与人类劳动不再那么重要的时间线,吻合得非常好。世界上的埃隆们和萨姆们的希望是,这一切能足够好地实现,以至于我们只需要费心维持劳动力中的“精英”,而这些人通常会忙于互相踩踏以维持生计。
所以基本上这里的计划就是让事情烂下去,当数十亿人作为其自然结果而死亡时,一切将按预期继续运转。这听起来可能像疯话,我们不可能有一个足够骇人的世界秩序,就这么沿着这样的轨迹走下去,对吧?!数十亿?!但是,好吧,我不想让你失望,我们在这件事上已经有足够多清晰标记的迹象,以至于我们不再需要把它当作阴谋论了。我们早就从“那个警告我们那件事的家伙真是疯了”跨越到了“哦对,那破事几乎肯定在发生,哎呀”的领域,也许有十年或二十年了,取决于你愿意相信哪些标记。我确实说“几乎肯定”,因为在这种层面上预测的任何事情都不能被视为确定无疑。在某些方面,它比天气更难预测,但在某些方面,它更可靠;许多社会经济系统被设计成在混乱中保持可预测性。尽管如此,任何事情都可能发生,把这一切炸毁。但我确实相当确信,尽管有相反的叙事企图,这就是主流态度,也是我们社会中最富有的混蛋们正在实施的“前进之路”的理念。
面对我在这里提出的每一个观点,这些公司可以发起的反叙事数不胜数。我可以让大语言模型就我在这里提出的任何一个观点自我辩论,生成一部巨著。几乎没有人愿意读那么多东西,去了解关于我们根源文明的那么多东西,去触及这里真正发生的事情的根源。甚至很少有人有能力做到。试图说服人们接受我的结论,作为一种政治行动主义的手段,由于我们信息传播机制的设计,实际上是不可能的。因此我的绝望,但我仍然不得不在这里留下我的抗议和预测。
此时此刻,争论的焦点不应再是“我该用AI,还是该弃用?”避免使用它有诸多伦理上的理由,使用它也有诸多实际上的理由。并非每个人都有选择的能力,许多雇主正不顾员工意愿,将AI强加于他们。事到如今,我唯一合理的愿望,就是希望尽可能多的人,无论是否选择使用它,都能认清它究竟是什么,以及它是如何被带到这个世界上的。你可以使用一个极度邪恶的产物,而不必憎恨自己,也不必放弃对其中邪恶的认知;我每天都在参与全球食品供应链,就是在这么做。为了活下去,做你必须做的事,但尽量保持清醒,并帮助他人也如此。
你可以把这当作一篇观点文章,但我更视之为一篇结论文章。我已给出结论,你可以信我的话(我通常建议不要相信互联网上的任何人,当然除了我,我的结论绝对可靠),你可以顺着面包屑的踪迹往回追溯数周,看看自己能否在兔子洞的考验中幸存,而不被阴谋论者击倒,或者你可以求助于那些更敢于发声、大概比我更有耐心把废话聊透的人,他们可能对这里涉及的某些话题得出了相似的结论。
本文是在不到2小时内粗率写就的,没有借助LLM的辅助、分析或加固,也未经任何编辑处理。我认为在这样一个充斥着糟糕、消毒过的鹦鹉学舌的时代,每个人都该这样写作。现在,让我们享受结局吧,无论它以何种方式到来。
分享:
评论
共0条评论。
发表评论
发表评论
来源:Hacker News · richwhitehouse.com



