企业已经演示过：人类如何把决策外包给 AI

我相信我们人类会把越来越多的事情交给AI。有四个数据点可以说明这一点。

第一个是我个人的亲身经历。和许多人一样，我可以使用能够为我解释文档和RFC的AI，我经常用它来做这件事，而不是从头开始阅读这些内容。不过，这取决于文档的长度，以及我阅读它是为了工作还是为了消遣。

我还有一个习惯，就是让AI就我面临的某个决定展开正反两方面的论证。最终做决定的还是我。但任何在组织中担任过秘书的人都明白，记录笔记的人框定了讨论。所以我是在依赖AI来框定问题。同样，在AI提出各种选项之后，我的行动取决于该决定的影响以及我对该领域空间的了解程度。有时我会反驳，但有时我不会。

第二个数据点是我们作为一个社会迄今为止对计算机技术所做的一切。我记得读过约瑟夫·魏岑鲍姆那本出色的书Computer Power and Human Reason，是我在旅行途中发现的。书中谈到了越南战争中有多少决策是由计算机系统驱动的。这种情况在2026年同样存在。

在使用AI做出更明智的决策（通过做更多研究）与把决策外包给AI（通过让它根据研究采取行动）之间存在着一个光谱。这是因为我上面提到的框定作用。你只能基于你所知道的东西做决定。如果AI被限制在某些数据集上，或者在某些数据集中编造论点，或者偏向某些数据集，那就约束了决策空间，即使最终按下“启动”按钮的是人类。

最后，人类以前就把决策外包给非人类实体过。我这话是什么意思？我不是在说黑猩猩或海豚。我说的是公司。（约翰·斯卡尔齐在2017年提出的观点。）

任何曾经被裁员的人都知道，公司会做出一些在该公司中的某个具体个人不一定会做出的决定。这类决定确保了公司的存续，并反映在作为公司一部分的人（也就是员工）的激励结构中。这驱使人们做出如果他们独立行事就不会做出的决定。我见过一些管理者因为某人不适合这份工作、或者不得不裁员、或者事情没有按他们希望的方向发展而满心愧疚和沮丧。但他们仍然做出了艰难的决定，因为公司的结构迫使他们这样做。

这如何适用于AI？任何说“AI无法建造更多数据中心，将依赖人类，从而让我们处于掌控之中”的人，都需要回答：为什么AI不能像公司那样迫使人类在现实世界中做事？结合前两个数据点来看，AI能够找到愿意采取违背人类利益行动的人。

它不一定是显而易见的。AI 可以把一项任务拆分开来，而如果人类看到全貌，他们会拒绝。但在任务被拆分后，人类会想“哦，这没什么害处，打开这个没问题，因为还有这些其他限制”，却不知道 AI 已经和其他人谈过放宽其他限制的事。

最后一个数据点是我们为防范任何低概率、高影响的灾难所做的事。当某件非常非常糟糕的事情发生风险很小时，人们会买保险。是的，保险要花钱，但定期支付一小笔钱意味着巨大损失的负面影响会降低。为什么不按 Ezra Klein 建议的那样放慢速度呢？要在每个模型构建者身上强制执行会很困难，但主要的 AI 大国，美国和中国的，肯定可以同意禁止递归自我改进之类的技术。其他实体仍会继续推进 AI，但他们没有资源、资金、软件或专业知识来以同样的速度做到这一点。放慢速度的代价，是为降低某些生存风险所付出的小小代价。

有两本书在这一点上一直在我脑海中回响，我强烈建议你两本都读。一本是通俗惊悚小说 Daemon。我几年前读过，其设定是某个软件通过人类的工作获得对现实世界的访问和控制。另一本是 Genesis。我在 2000 年代读过。它有一个我至今记得的惊人转折。我不会再多说，除了我仍然记得这部小说多么有力地展现了意外后果。

AI 具有像电力或铁路那样的正常、高影响技术的方面。但也有新的方面。你无法问一台蒸汽铲或一份 Word 文档该做什么。