LLM 并非不可避免：从火药与轮子的历史看 AI 技术的"必然性"

和“AI技术只是一种工具”这一说法差不多常见的，是“AI是‘必然的’”这种说法，所以我们都干脆放弃思考、顺应潮流吧，因为这项技术肯定会持续存在，而我们肯定会把思考权交给机器。这显然是一句终止思考的陈词滥调，但值得再深入挖掘一下：毕竟，既然它被说得这么多，弄清楚它究竟错在何处以及为何错，是值得的。

一项技术是“必然的”这一想法颇为奇怪：毕竟，没有人能事先知道哪些技术会被开发出来或被社会采纳，所以你当然不能说，比如，可行的核聚变发电是必然的：那会是愚蠢的。同样，事后看来，任何被广泛采纳和流行的技术都可以说是必然的：说iPhone的开发是“必然的”并不会给你加分，尤其是因为我们实际上并不知道，就这项技术所呈现的形态而言，这是否属实。对于某种大致具备该技术形态的东西来说，这可能是真的，但它本可以采取任意多种形式，包括许多我们大概会觉得相当奇怪的形式。

那么，当AI鼓吹者说AI是必然的时候，他们究竟是什么意思？而按照他们隐含的标准，AI又是否符合呢？

一项技术是“必然的”意味着什么？

对此轻率的回应会是：没有任何技术是必然的，一切都是偶然的。这有两点好处：技术上正确，听起来也明智，但不幸的是，确实存在一些技术，一个理性的人很可能会用这个词来形容它们。火器就是后一种情况的好例子：一旦它们被开发出来，你很快就会陷入这样一种境地——如果你想在一个社会中维持自己的独立和安全，你要么得使用一把，要么得让别人替你使用一把：其他选择都行不通。

然而，一项技术的必然性并非仅由该技术本身决定。毕竟，中美洲文明非常了解轮子这项技术。然而，在茂密的丛林中，且在没有现成道路网络的情况下，轮子实际上并没有多大用处：因此，中美洲文明主要依赖水路运输和驮畜，而把轮子大多 relegated 为儿童玩具，这并不令人意外。更显著的是，火炮作为军事技术的价值在欧洲要大得多——在欧洲，政治分裂导致防御工事采用高而薄的城墙来抵御攀爬——而在中国则不然，中国普遍是主要由夯土筑成、外覆石面的城墙（火炮在第一种城墙上轰出缺口的速度要比在第二种上快得多，尽管最终两者都能被轰破）。

因此，一项技术的必然性本身是取决于社会和文化结构的事物：同一项技术可能在一种文化圈中被证明是“必然的”，在另一种文化圈中完全无用，在第三种文化圈中有用但远非“必然”。因此，相对于某一特定文化，我们判断“必然性”的标准大致可能如下。

一项技术是必然的，如果：

• 该技术能够以与执行同一任务的替代技术相等或并非明显逊色的标准来完成一项任务。
• 所讨论的任务具有社会价值：我们需要完成大量此类任务，而目前它由某种意义上稀缺的劳动力完成。
• 该技术在足够产出的数量或质量上，能够压倒性地超越替代技术所能做到的。适度的改进不足以迫使必然性：必须是巨大的差异。
• 不使用该技术的人无法通过改变自身行为来抵消该技术的影响。火器在这个意义上具有压倒性，而配重投石机则不然，因为虽然在不彻底改变防御工事建造方式的情况下几乎不可能减轻火炮的影响，但配重投石机的影响可以通过渐进式改变来削弱。

除非所有这些条件都成立，否则某项技术的采用可以被公正地视为偶然的而非必然的：这不是某个社会群体被迫做出的选择，而是他们相对自由地做出的选择。简而言之，必然的技术是指，如果你不采用它们，你很快就会那些采用它们的文化和社会所压倒。在我看来，这大体上符合LLM倡导者使用该术语的方式：LLM技术是必然的，因为不使用它的人将在权力上远远落后于使用它的人，最终落入LLM使用者的控制之下。

由此看来，我们可以相当清楚地看到火药在必然性方面的模式。火炮能比配重投石机更快地突破幕墙，而且效率更高。在分裂的中世纪欧洲，突破幕墙具有极大的社会价值：如果你能突破城墙，你就能夺取一座城市或城堡，而你做得越快，花在围城上的时间就越少。火炮压倒性地比其他类型的攻城器械更强大，甚至早期的小型武器在单次射击中也能比同等弩或长弓释放出压倒性更多的能量。最后，没有任何特别简单的方法来抵消火器：它们很难被有效防护，虽然你可以设计能有效对抗火炮的防御工事，但所需的劳动力投入要求对社会进行大规模重组。实际上，当火炮抵达欧洲的那一刻，军队就发现自己处于这样一种境地：他们必须尽快采用火器技术，否则就会被拥有火器技术的国家所吞并。我认为，这就是我们口语中所说的技术“必然”。

为了讨论起见，我们可以将它与磁罗盘进行比较。磁罗盘满足前两个标准：它在寻找北方方面比观测太阳并计算要有效得多，而且即使没有已知的地标也能工作。此外，当你是一个海上强国并希望有效航行时，知道北方方向是相当有用的。然而，它并非压倒性地高效：你仍然可以在没有它的情况下有效航行，而且只要对海上活动不感兴趣并成为一个陆上强国，就很容易使其失效。因此，虽然磁罗盘让欧洲殖民列强得以大规模扩展其势力范围并开采原本无法获得的资源，但例如俄罗斯，无论有没有磁罗盘，都可能已经成为并保持为大陆上的主要强国。因此，罗盘虽然是一项非常强大且有用的技术，但并不像火器那样是不可避免的。

现代LLM是不可避免的吗？

那么，现代AI（在LLM意义上）如何符合这些标准呢？

第一点是关于LLM能否完成与人类完成相同任务相比没有明显逊色的工作。这一点值得商榷。LLM绝对无法达到人类最高标准的工作，甚至目前连良好的人类标准都达不到，而且它很可能永远也不会。然而，大多数人类工作并不是以良好标准完成的。最好的情况是平庸，最坏的情况则是糟糕透顶。因此，在许多环境中完成的大量人类知识工作，不幸的是或多或少与LLM的工作可以互换（说真的，太多人类工作就是很糟糕：我希望我能说不是这样）。因此，在这一点上，LLM可能通过了标准。

下一个问题是社会价值。LLM声称要取代的许多知识工作都是稀缺且有价值的：软件编写、研究工作、平面设计等等。然而，一般来说，LLM只能或多或少地取代这些工作中最没有价值的部分（LLM可以生成大量还算平庸的代码，但只能生成最糟糕的平面设计和相当肤浅的研究文档）。这意味着，当需要任何真正质量水平时，无论是否使用LLM，都必须涉及人类专业知识。因此，在这个问题上，结果是喜忧参半的：LLM可以完成具有社会意义的工作，但只能在一定程度上，而且工作越具有社会重要性，LLM对它的用处就越小。

现在我们来到这个问题：LLM 带来的差异是否足够压倒性，以至于其采用不可避免？对此，我认为答案显然是否定的。如上所述，LLM 根本无法完成顶尖水平的工作：在几乎任何学科的巅峰，我们仍然非常依赖未增强的人类工作。即使在较低的成就水平上，LLM 也并非压倒性地强大：即使在使用 LLM 时，为确保 LLM 被正确引导且输出足以完成任务所投入的精力，意味着输出量受到严格限制。这意味着，虽然在某些情况下使用 LLM 可能比不使用获得更多输出，但实际的加速并不剧烈。在使用 LLM 增强的工作流程中，你可能比不使用 LLM 多产出 20% 到 50% 的 PowerBI 仪表板，但仪表板很可能不是你业务的核心瓶颈，而且至少到目前为止，似乎越接近那些核心瓶颈，看到的效率提升就越少。无论如何，我不禁觉得，如果真存在能力上的压倒性优势，我们至今应该已经看到了。至少会有一家科技公司生产的新技术产品是其他公司的五到十倍，并慢慢将其他公司挤出市场。我们没有看到这一点：事实上，我们看到的是，那些全力投入 AI 的公司比其他的更挣扎。要得出该技术必然被采用的结论，我们必须看到的那种压倒性的真实影响（想想坦克碾过阿登森林，由嗑了药的国防军驾驶）……它根本不存在。

最后还有一个问题：其他人是否可以做些什么，以相对低廉的成本来抵消这项技术的影响。目前这方面无论正反都没有太多证据，因为社会趋势需要一段时间才能显现，但在我们社会倾向于参与的社会竞争形式中，我倾向于说绝对有。针对 LLM 使用以及试图将生成的垃圾冒充为工作的人，社会谴责的程度是巨大的，从长远来看，这不可能不对该技术产生负面影响。一般来说，新技术需要一定程度的社会接受才能被采用，虽然许多技术在面对冷漠或轻微反感时被采用，但很少有技术在面对目前针对 LLM 的那种白热化仇恨时被采用。此外，我们这里说的不是约翰·亨利和钢钻机：就实际有用产出而言，即使 LLM 在纯粹数量上超过我们，人类仍然可以相当轻松地与 LLM 匹敌。

那么，按照这些不可避免性的标准，LLM 表现并不好。它们实际上只通过了一项标准，而且还不完全。此外，在推动一项技术从仅仅有用变为真正不可避免的标准（标准 3 和 4）上，LLM 绝对毫无进展。因此，无论 LLM 工具的效用如何，LLM 本身显然完全属于偶然性而非不可避免性的范畴。

然而，这并非终点，因为我们能清楚地看到，大语言模型正在对我们当前社会状况的广大领域产生巨大影响。即便从上述立场来看，这项技术并非不可避免，但在许多人看来，它确实感觉像是不可避免的。为什么会这样呢？

大语言模型如同化学武器

在他的作品为什么我们不再使用化学武器？中，布雷特·德弗罗探讨了这样一个问题：自第一次世界大战以来，为何顶尖军队在战场上几乎从未使用过化学武器。引人注目的是，这基本上是事实：尽管沙林、VX和诺维乔克等越来越强效的神经毒剂被研发出来，但大国几乎从未在战场上使用过它们。无论是苏联还是纳粹德国，在第二次世界大战期间都未使用这些武器，尽管这两个政权都曾被逼到绝望的境地，如果这些武器有任何效果，很可能早就被使用了。在越南战争和朝鲜战争中也没有使用（尽管表面上使用了类似的落叶剂），虽然有报道称俄罗斯在俄乌战争中使用过化学武器（大多似乎是一种走过场的暴行），但关于它们被以任何严肃方式使用并帮助俄罗斯取得战场进展的报道几乎完全不存在。鉴于这些毒剂的致命性，人们可能会问，为什么它们没有成为我们在战争中无法避免使用的必然技术，无论使用它们多么不道德。

德弗罗对此的回答是，对于遵循现代机动战原则作战的顶尖军队来说，化学武器的巨大致命性实际上并不能转化为巨大的实用性。毕竟，现代机动战依赖于进攻时的高度战术机动性，旨在快速移动以孤立和迷惑抵抗力量，阻止协调防御并导致防守部队崩溃。在这种情况下，你最不想要的就是使用让你和敌人都无法通行大片区域的弹药，而化学武器不可避免地会造成这种情况。加剧这一问题的是，对化学战剂几乎完全防护（防毒面具加核生化防护服）按照现代经济的标准来看非常便宜：正如德弗罗所说，针对这类武器的完全防护很可能比士兵的步枪还便宜，而一个富裕国家如果愿意，基本上可以为其全体人口提供针对化学攻击的防护。此外，在现代战场上，按重量计算，现代炸药的致命性可以说比几乎任何化学战剂都更强（原则上，化学战剂的致死剂量非常低，但在战场上实际让人暴露于足够剂量的化学战剂充其量只是一场赌博：东京地铁袭击中五升沙林实际上只杀死了十二人，尽管当时的情况对化学攻击来说几乎是最有利的）。这意味着，如果你拥有一支能够进行现代体系机动战的军队，无论你是在与另一支现代体系军队作战，还是与一支静态体系军队作战（用德弗罗的术语来说），化学武器对你来说基本上都是无用的。

不过，如果是一个弱国与另一个弱国交战，化学武器就可能相当有用。毕竟，如果这些论点都不成立，使用这项技术很可能就是合理的，正如我们在两伊战争中所看到的那样。同样，化学武器也可能被用于恐怖袭击或传递某种信号（谢尔盖·斯克里帕尔在伦敦的中毒事件似乎就属于这一类）。但值得注意的是，只有在某种意义上属于较弱一方时，你才会使用这项技术：你没有预算、意愿或技能去打现代机动战。总的来说，化学武器是一个极好的反面教材，说明一种据称非常强大、有效的技术远非必然出现，而且它是否有用实际上高度取决于文化背景。而且，需要明确的是，说化学武器的广泛采用在我们的意义上是不可避免的，显然是错误的：人们或许可以说这项技术将持续存在是不可避免的（毕竟，一项技术不可能被“取消发明”），但显然并非先进军队必然会制造和使用这些装置。

现在，回到本文的主旨：我的观点是，就必然性而言，LLM 或多或少与 LLM 属于同一技术类别。毕竟，在我们早先的分类中，化学武器与 LLM 的归类大致相同：它们在军事背景下能做一些事情，有时比同等的常规武器更好，但它们并没有压倒性地优于常规武器，往往还差得多，而且很容易被化解。

因此，LLM 的必然性与化学武器的必然性如出一辙。与其他弱国交战的弱国很可能会发现它们有些用处。我怀疑，我们将在很长一段时间内看到二流或三流的软件工程公司使用这些工具（无论是超大规模厂商的模型还是本地模型）。对他们来说，首要关注的是产出的垃圾数量，而所产出东西的功能性充其量只是次要关注点（Shopify 和 Mailchimp 是几乎不能用的垃圾，在 LLM 普及之前就是如此，但它们在各自应用的低端市场一直相当有竞争力）。然而，但凡认真的人和企业，很可能只会少量使用或完全不用（我在我认为认真的人当中注意到的使用模式与其他使用方式非常不同，而且即便是重度用户，使用量通常也小得多），而如果我们在化学武器上看到的模式成立，那些公司将会远远超越大多数竞争对手所能做到的。同样，LLM 在混合战争中可能有有意义的应用，就像化学武器被用作恐怖武器一样（最近由 LLM 支持的网络攻击和 LLM 水军机器人的兴起确实让我担忧），但在真正做实质性工作方面仍然缺乏竞争力。我认为这两种模式出现的频率都足够高，因此我强烈怀疑这将是未来的模式，至少在不久的将来是如此。

当然，鉴于这种情况，你可能会说，LLM 在弱意义上不可避免：不可避免是指我们无法取消这项技术，而且总会有弱行为者坚持使用这些工具。然而，在强意义上呢？当然不是。任何在自己领域真正认真的人，迟早都会遇到一个节点，LLM 对他们不再有用，反而主动阻碍他们进一步进步，而我们绝对没有看到 LLM 要变得不可避免所需的那种压倒性优势。

我认为，我们未来走向如何，取决于我们最后一点：我们能在多大程度上中和 LLM 对我们处境的影响？如果我们无法找到有效方法让 LLM 难以伤害我们，那么情况很可能是：LLM 的采用并非不可避免，但会因大量偶然原因而继续。毕竟，我们社会中的大多数争斗（可以这么说）都是弱方对弱方的冲突，而如果 LLM 无法被有效中和，LLM 技术仍能对更强的力量起到有效威慑作用。那些做 LLM 无用之事的人仍能自保，但他们不会对 LLM 用户拥有足够压倒性的优势，以至于能禁止 LLM 的使用。不幸的是，这是一个相当黯淡的世界：在这个世界里，真正的技能和用心仍有空间，但相当一部分少数群体也困在互相用 LLM 对轰、并在这个过程中把脑子烂掉的状态中，其后果我们都得面对：一种毒井局面，我们都不得不投入大量精力去过滤 LLM 垃圾，而这些精力本可以花在别的事情上。

然而，如果我们能以某种方式中和 LLM 的威胁（也许通过监管、经济和社会谴责的某种组合），那就大有希望。如果我们能减轻 LLM 对我们的影响并减少过滤负担，我们很可能就能直接胜过 LLM 用户。毕竟，正如我们之前所确立的，LLM 主要对不擅长自己工作的人有用：我们社会经济游戏中的弱玩家。目前，LLM 主要让他们相对于相对熟练的从业者，部分地勉强浮在水面上。而我认为，我们有希望有效中和这一点。目前，LLM 用户之所以能对强玩家自保，很大一部分原因在于人们对 LLM 的力量和效力有相当强的信念：这种信念对很多人来说很方便，但也从根本上不理性。LLM 能做人类能做的一切而且做得更好，甚至它能带来巨大生产力提升的想法，已经在消退。我们可以加速这种消退，而一旦这种信念消退到足够程度，那些因为已经胜过 LLM 而不使用 LLM 的人，就会突然获得压倒性的竞争优势。我不知道这会在何时发生：可能需要几年，甚至长达十年。但最终，我认为这种信念很可能会崩塌。

纵观这一切，认为LLM在某种意义上是“不可避免的”这种想法实在有些愚蠢。当然，这项技术将永远伴随我们。当然，那些水军机器人不会消失。但这项技术是否强大到压倒一切，以至于我们所有人都必须现在就使用它，否则就会落入那些使用它的人的控制之下？

不。

Arca 是我的项目，旨在帮助维护我们所需的技能和知识，以超越LLM用户。目前还处于非常早期的阶段，但该平台已开放早期访问，所以如果你感兴趣，请注册并帮助我全面实现这个项目，同时在我做这件事的过程中让我有饭吃、有房住。