Narayanan 与 Unger 提出超越自动化的人机协作 AI 研究议程

AI 作为常规技术· Arvind Narayanan·2026-10-15 03:56· 1 小时前AI 评分59

引导 AI 超越自动化

AI 导读

Stanford Digital Economy Lab 经济学家 Gabriel Unger 与 Arvind Narayanan 撰文主张 AI 不应只朝全面自动化发展，而应构建人机协作范式。

正文

作者：Gabriel Unger 与 Arvind Narayanan。Unger 是 Stanford Digital Economy Lab 的经济学家。

当今 AI 领域最根本的问题之一是：AI 这项事业在多大程度上纯粹是为了自动化人类劳动？

当前硅谷主流的 AI 纲领——无论产业界还是学术界——给出的答案是：“几乎完全如此。”1 这背后隐含着一种技术决定论：AI 具有一种偏向自动化的深层内在逻辑。继续朝这个方向推进，就是走向经济增长、繁荣与利润。AGI 的愿景就是这一事业的圆满完成：创造出能力足以自主完成人类一切工作的 AI 系统。

还有另一种观点：AI 是一种技术（或一类技术），和任何技术一样，可以朝不同方向发展。全面自动化是其中一个方向。但还有其他方向，包括更侧重于人类增强，以及提升人类与 AI 模型协同工作时团队协作与集体力量的方向。

这种观点——也是我们的观点——并不是说自动化从不是好事。显然，有时它是好事，也显然有时某些人会出于最狭隘的短期私利去反对它，损害更广泛的社会与经济进步。但我们认为，AI 也能以许多有趣的方式增强人类工作者，某些试图完全自动化所有人类劳动的极端尝试，无论从技术还是经济角度都毫无前景，而当下过多 AI 研究投入后者而牺牲了前者。对自动化议程的偏向，部分源于经济激励，部分则源于计算机科学作为一个领域更深层的智识与文化因素。

这种替代观点在计算机科学史中有着深厚的智识根基，尤其是在人机交互这一子领域。此外，如今追求它也具备令人信服的技术与经济理由。在目睹了实施第一种纲领所带来的经济失望之后，少数但正在增多的企业开始转向它。尽管如此，它今天仍属少数派立场，鲜为人理解，也缺乏组织。最重要的是，当今计算机科学作为一个领域，尚缺乏对一套系统性 AI 架构纲领的清晰阐述，以推进这一议程。

在本文中，我们简要讨论这里的利害关系、这场辩论在计算机科学中的历史、这场辩论今天在经济学及其他领域的现状，以及大学计算机科学文化与课程中的自动化议程。最重要的是，我们在第1节中勾勒出若干推动人机协作方向的人工智能研究方向。为真正的协作设计人工智能，需要解决与当今模型和智能体截然不同的一系列技术问题，这些问题往往被忽视，甚至根本不被理解为问题。我们勾勒的具体方向意在试探性和实验性。但要点在于明确构想一个不同于硅谷主流的人工智能项目，并超越批评，正面阐述一个替代方向。我们希望这能成为一项更广泛、持续、实验性和集体性研究计划的种子。

在第2节中，我们讨论本项目的高层动机，在第3节中，我们简要回顾其中一些思想的历史。在第4节中，我们将这一切置于当今经济学和政策中关于人工智能与自动化的辩论背景之下，在第5节中，我们概述一种自下而上、市场驱动的方法来引导人工智能开发与部署的方向。

1. 协作智能体的研究议程

一项严肃的人机协作研究计划会凸显出人工智能自动化议程更可能忽视或视为相对不重要的新技术问题。我们提出四个示例性方向。

问题#1：我们能否为人类劳动的各个领域生产白盒智能体？

人工智能模型和智能体的主流范式是“黑盒”：系统根据其产生的最终输出进行评估。中间步骤通常不向用户揭示，即使揭示也可能令人费解，因为它们与人们处理任务的方式大相径庭，并且不被视为任务表现的一个方面而加以对待和优化。黑盒范式的一个原因是模型训练中缺乏过程轨迹。如果我们用一千幅文艺复兴时期的画作训练一个新的人工智能模型，但我们没有任何关于任何一幅画创作过程中众多中间步骤和修改的数据，那么除了黑盒模型，我们不能指望别的。也许它能生成一幅风格相似的新画作图像，但它无法主动向我们讲解创作这样一幅画所涉及的步骤。

我们所说的“白盒智能体”则是对其人类用户而言在认识上更易理解的人工智能系统，它们明确揭示其中间过程（来源、假设、方法、不确定性、过程产物）。白盒智能体可以为各种更直接的人机协作形式打开大门：如果人类能看到中间过程，他们就能直接与之互动。

白盒智能体的成功开发需要解决许多技术子问题。其中最主要的是：为更广泛的人类劳动捕获过程轨迹。过去几年的人工智能模型训练和部署过度集中于软件编码。这有很多原因，但一个重要原因是，我们受益于大量编码仓库的公开可用性，这些仓库包含了软件开发过程每一步的轨迹。但对于当今经济中许多其他重要的专业职业——法律、医学、许多科学领域——并不存在这样神奇的公开可用、免费、全面且易于编码的过程轨迹数据仓库。

这里有一个思想实验。想象一个反事实的世界，其中开源软件不存在，编码智能体（出于必要）被训练为以黑盒方式直接输出编译后的软件二进制文件，而不是源代码。我们认为，软件工程师会将这种能力体验为反乌托邦而非解放，其效果将是取代他们，而不是增强他们的能力。我们所倡导的转变，相当于将代码仓库和编码智能体引入这个世界——并在当前缺乏它们的每个领域中都这样做。

一场悄然的淘金热正在进行，旨在为更广泛的职业捕获过程轨迹以馈入人工智能模型，参与者既有完全致力于此目的的公司（Mercor），也有无情地试图研究自己员工以便更好地取代他们的传统科技公司（Meta）。矛盾的是，这一切往往都是为了服务于自动化范式：想出训练数据，以便在更多领域制造更多黑盒智能体。但它也可能在更好地促成新一代白盒智能体的开发方面至关重要。

问题 #2：我们能否足够快地开发出智能体以实现实时交互？

主动人类协作的一个基本动态是低延迟。想象两个人进行真正的对话。如果每次你问一个人一个问题，他都得离开房间思考 20 分钟，那你们就不再是在对话；充其量也许你是在向他委派任务。能够以更自然类似人类交互的速度工作的模型，可能更好地促成更深入的人机协作形式。

今天，我们被迫在能够快速但肤浅地回答问题的聊天机器人和能够彻底执行任务但打断对话流程的智能体之间做出选择。我们不必被困在这种权衡之中。

这听起来像是一个简单的目标，但它意味着一系列全面的技术挑战，可能涵盖从模型推理到检索方法、shell、浏览器、工具等方方面面。我们如何构建延迟足够低以支持协作的人工智能系统？为了实现这一点，智能体技术栈的哪些部分可以改变，或者需要改变？

低延迟尤其有前景，因为它能让工作者保持心流状态。心流是一个心理学概念，描述的是人们在进行攀岩或下棋等因内在原因而被吸引的活动时的体验。它是一种改变了的体验状态，在这种状态中，执行者忘记时间和疲劳，沉浸于当下。大多数程序员都熟悉心流，这也是他们被编程吸引的一个重要原因。

在心流状态下工作需要清晰且即时的反馈——也就是低延迟。到目前为止，智能体削弱了我们实现心流的能力。许多程序员报告称，从手动编程转向监督编码智能体导致了心流丧失、认知过载和倦怠。但我们的假设是，有可能重新设计智能体，不仅能恢复心流，甚至能增强人们实现心流的能力。

问题 #3：人类和智能体能否持续协同工作，而不受回合制范式的限制？

在自动化范式下，人机交互的基本模型是委托：我告诉我的智能体该做什么，然后走开，稍后再回来验证。许多版本的“人在回路”仍然回到这一点；人类在技术上处于回路中，但只是站在起跑线上，然后在终点线等待。这与协作模型截然不同，在协作模型中，人类积极参与过程，并在智能体工作时持续引导它。

当今主流编码智能体中存在一种持续引导的原始版本，但仅限于在智能体工作时向其提供额外指令。这是对用户和智能体轮流交替这一范式的轻微调整，而不是对其的背离。如果用户试图编辑与智能体相同的文件，它会感到困惑，一切就都说不准了。

真正的协作带来了一系列新颖的技术挑战。系统需要显示持续变化的可见状态，而不是逐回合变化，需要共享工作空间，并适应中断、并行工作、同时编辑和其他协作模式。这在难以事先精确指定任务，或验证复杂且可能受实现方式制约的领域尤为重要。应对这一挑战需要设计交互架构，使其能够在不因中断而崩溃的情况下实现持续控制。

问题 #4：我们如何评估和优化人机协作？

当今大多数 AI 基准测试测试的是模型独立完成任务的能力，而不是模型与人类协作的好坏。（这可能是基准性能与现实世界实用性之间存在差距的部分原因）。

评估AI与人类团队的协同努力很困难。这是一个表述起来相对简单、但取得进展却绝非易事的挑战。理解如何最好地评估AI与人类的协作更加困难，它提出了一系列复杂的问题，乍看之下可能显得令人不适地主观或令人困惑。AI模型与人类之间多大程度的分歧是合适的？模型应该有多顺从，人类应该拥有多少控制权？富有成效的协作中，各方有多少空间向对方学习？我们如何看待团队的短期成功与长期成功？评估协作成功最客观的方法是什么，从数据中挑选出的最佳信号和代理指标又是什么？

提升协作技能可能并不适合那种曾带来自主任务表现快速提升的基准测试与爬山范式。基准任务作为现实世界任务的代理足够有用，以至于在一个任务上的表现能反映在另一个任务上的表现。由于协作涉及人类，静态基准测试行不通。模拟用户是一种有前景的方法，但超过一定程度后，即使模拟用户与真实用户行为之间的微小偏差，也可能导致在模型训练中奖励错误的东西。

2. 自动化议程的问题是什么？

关于自动化潜在过度扩张的辩论往往聚焦于纯粹的分配问题。批评者担心大规模自动化可能造就一大类失业、贫困或丧失权力的工人。经济学家通常怀疑这种情况是否真会发生（现代经济史表明技术进步的常规节奏是：一些自动化，然后是工作重新分配）。在硅谷更常见的是接受大规模失业这一经验前提，但将其视为好事，即人们不再“必须工作”，并由全民基本收入支付或某种更奇特的福利方案来支持。

这种“自动化并补偿”交易存在诸多问题之一，是它远远超出了当今美国可识别的政治经济现实。自20世纪80年代以来，收入不平等急剧加剧，而美国精英并未以慷慨的福利扩张新政治计划作为回应。美国的政治也没有在精英之外产生一个广泛的选民联盟，去要求并赢得这样的扩张。（许多基本现金福利项目在同一时期被削减。）而且，即使某种类似UBI的项目在政治上是可行的，它对硅谷之外的普通人也会毫无吸引力。大多数美国人想要的是有真正工作的真正生活，而不是福利支票。

其次，即使我们接受自动化议程，它目前也在按自身标准苦苦挣扎。在自动化议程下，工业AI部署的努力越来越多地承诺提供能力极强的智能体，同时部署成本低廉（不需要针对特定任务的开发或配置）、可靠且真正自主。这些目标彼此直接冲突，以至于构成一个三难困境——（1）完全自主，（2）在高风险场景中可靠，（3）真正通用——三者只能选其二。

如今，关于 AI 行业最显而易见的问题之一是，其经济模式是否合理：数十亿美元的资本支出，对许多企业而言却回报不明。放松自动化议程的约束，实际上可能为更具经济可持续性的 AI 版本打开大门。

最后，AI 确实具有推动经济增长的潜力。在美国生产率增长经历了 50 年基本停滞之后，充分利用这一机遇十分重要。AI 最激进、最有趣的用途，很可能是那些让我们做到以前做不到的事情的用途。完全专注于简单自动化我们已知如何完成的事情，其变革性要小得多，似乎也不太可能带来快速的经济增长。业界和政策制定者普遍认识到，AI 的积极愿景尚未被清晰阐述。我们认为，要阐述这样的愿景，首先需要摆脱对自动化的狭隘关注。

3. 为什么自动化议程占据主导地位

一种观念的历史

在现代计算的早期（20 世纪 40 年代至 60 年代），对于计算机应该成为什么、我们与计算机的关系应该是什么，存在三种不同的愿景。它们在不同节点上有所重叠，但彼此不同。一种愿景——后来成为经典 AI 领域——追求几乎拟人化的机器，能够推理、解决问题、具有能动性、通用，并能说人类语言。“人工智能”一词诞生于 1956 年的达特茅斯会议（连这个名字都在试图拟人化！）。

第二种愿景——后来成为机器学习——强调在定义明确的一组任务上实现窄而深的性能；利用大量数据进行预测。人们通常隐含地理解人类在选择任务和运用预测中的作用。

第三种愿景（后来成为 HCI 子领域）非常明确地追求人与机器的协作。JCR Licklider 1960 年的《人机共生》和 Engelbart 1962 年的《增强人类智力》等著作主张，人类和计算机具有不同的能力，我们应当思考设计尽可能好的团队和组织来将它们结合起来，而不仅仅是孤立地设计最好的计算机，并且最好的计算机将是那些能够与人类迭代、交互地良好协作的计算机，而不是那些尽可能自主完成更多工作的计算机。

今天的 AI 代表了经典 AI 与机器学习的融合。而 HCI 仍然是一个充满活力的子领域。计算机鼠标、图形界面，以及我们习以为常的个人计算的许多设计特征等发明，都来自这个最关心制造能与人类良好协作的机器的群体。但 Licklider 和 Engelbart 等 HCI 先驱的人机协作基本愿景，在今天似乎是一种少数派立场。经典 AI 的愿景成了新的正统。为什么它如此占据主导地位？

今天的自动化议程

AI 作为纯粹自动化的吸引力有很多原因。首先，是表面上看似成立的经济理由（即便它最终站不住脚）。对大多数行业中的大多数企业而言，生产的最大成本是劳动力。在美国 20^th 世纪的大部分时间里，劳动获得了生产收入的三分之二。对高管来说，这通常是最显而易见、最想削减的东西。解雇工人还有一个额外吸引力：它会立刻体现在短期损益表上。此外，节省的确切成本也很容易估算。相比之下，旨在提升生产力的雄心勃勃的投资可能要到 10 年后才有回报，而且事先很难估算，也不会带来即时的财务满足感。

这一切都发生在这样一个政策环境中：它在许多方面偏向资本而非劳动（例如考虑相对税收待遇），并且经历了数十年的实际利率下降。如果你是一家《财富》500 强公司中缺乏想象力的 CEO，你会始终对替代付钱让人工作的方案抱有强烈兴趣。如果你是一家 AI 初创公司的创始人，正在向一位想要这位 CEO 会喜欢的产品的 VC 推销，你会对此格外敏感。

经济学是这件事中显而易见的部分。但还有更多附加的、不那么显眼、更为微妙的层面，存在于计算机科学内部。

有一系列技术原因让自动化对研究者更具吸引力。自主模型/智能体非常适合非常干净的基准测试。模型完成任务的表现如何？损失函数、性能指标、模型之间的比较，都可以很优雅，远比在某种真实世界环境中对一个人机团队如何协作表现进行混乱评估要优雅得多。

最后——最不显眼，但相当真实——是当今 AI 以及更广泛计算机科学的智识文化的深层背景。自主系统被呈现给学生，作为一种审美理想。“端到端”系统是一种胜利。需要人类监督则是一种缺陷，甚至人们通常讨论人类参与的方式——例如“human in the loop”——也常常把人类呈现为一种暂时的不便。Peter Thiel 在《从 0 到 1》中将其称为“计算机科学的意识形态”：

“为什么这么多人忽视了互补性的力量？这始于学校。软件工程师倾向于从事替代人类努力的项目，因为他们所受的训练就是如此。学者通过专门研究建立声誉；他们的首要目标是发表论文，而发表意味着尊重某一特定学科的边界。对计算机科学家来说，这意味着把人类能力拆解为计算机可以被训练来逐一征服的专门任务。”[第 12 章，第 148 页]

在 AI/ML 的教学法中，标准方法是教学生一条模型流水线（问题定义、数据、模型选择、训练、评估、后训练、部署、监控），其中正在构建的核心对象是准自主的，而关于人机协作的问题往往被搁置一旁。人类可能偶尔出现（作为数据标注者，或帮助提供强化反馈），但并未被呈现为本身的核心主体。主体就是模型。

在《财富》500 强 CEO 的经济学登场之前十步，计算机科学作为一个领域的深层文化就已经塑造了我们构建 AI 的整个方式。

4. 当前经济学与政策领域关于人工智能与自动化的争论

人工智能对劳动力市场影响的实证研究是一个快速发展的课题。但在更深层次上，经济学家中一个普遍观点是，技术就是技术本身——我们无法控制其方向或发展，试图这样做是天真、不可能、令人尴尬且注定失败的混合体。如果人工智能只是一台小小的自动化机器，用计算机的任务执行取代人类的任务执行，那它就是如此。技术进步是一种单向的线性运动，经济政策的首要任务就是不要阻碍它。认为技术可以真正朝着不同方向发展——无论是作为一般情况还是具体到人工智能领域——这种想法仍然相当陌生。

也有明显的例外。Acemoglu 和 Restrepo 有一系列论文论证存在“过度自动化”。Acemoglu 和 Johnson 在《权力与进步》一书的结尾主张发展增强型人工智能。Brynjolfsson 将人工智能过度专注于纯粹模仿人类的危险称为“图灵陷阱”。Autor 写道，人工智能的真正前景可能实际上是将隐性知识民主化，惠及更广泛的劳动者，而非自动化他们。Mullainathan 及其合著者正在启动一系列研究项目，其论点是我们应该推广人机协作的观点，但“……不幸的是，今天驱动人工智能的是另一种愿景：思维的替代品。对我们来说，那是一个相当令人沮丧的未来愿景。自动化降低了成本，但几乎无助于提升上限。仅仅复制人类能力也意味着我们受限于人类能力的极限……我们致力于为思维建造自行车——增强人类能力而非取代它的算法和人工智能。”

显然，在整个经济学界，正如在计算机科学界一样，有同道中人。但这仍然是少数派立场。许多经济学家对 Acemoglu 和 Johnson 这本书的回应，尤其是在这一点上，往往是轻蔑和居高临下的。

分歧的部分原因可能在于对如何真正将人工智能引向有利于劳动者的方向存在困惑。怀疑者似乎设想的是一种笨拙的、苏联式的自上而下的指令，规定经济应该是什么样子，甚至直接禁止许多形式的自动化，比如自动驾驶汽车或仓库机器人，以保住工作岗位。

这不是我们所主张的。自动化并非普遍是坏事。许多工作极其常规化，自然适合自动化。为保住这些工作而进行后卫战毫无荣耀可言；将它们自动化是重要的社会和经济进步。1900年代芝加哥肉类加工厂的工人每天工作12小时，每周6天，换来的却是低薪、断肢和死于机器坠落。弗吉尼亚煤矿的工人可能更惨。自动化在这两个行业都是好事。美国每年有4万人死于车祸，因为人类不太擅长驾驶；有一天，我们大概会从自动驾驶汽车的世界回望这个数字，带着类似的恐惧。

自主 AI 智能体在知识工作中也有其适用的时间和场合。在许多任务中，那些更具人类特质的属性（隐性知识、判断力、情境感知和不断变化的目标）相对不那么重要，活动本身是常规性的，输出易于验证，少量错误相对无伤大雅，或者人类工作者面临的风险或痛苦较高。上述某些因素的组合可能足以证明在特定领域实现完全自动化是合理的。

但面向 AI 的增强优先计划的意义在于：(1) 还有第二类更广泛的活动，在当今 AI 的水平下并不适合自动化；(2) 如果在一系列技术、经济和思想上的混乱中，AI 领域致力于一项被误导且不会成功的努力去实现 (1)，而本可以更成功地启动一项推进人机协作、增强我们在世界上实际生产能力的计划，那将是令人遗憾的。

我们认为，政策可以在边际上推动我们走向一个自下而上的世界，让人们去试验那些能更好地赋能人类的 AI 形式。我们在下一节末尾提供了一些具体想法。

5. 我们如何引导 AI 走向增强？一种自下而上、市场驱动的路径

假设有人认同这样一种论点：当今 AI 行业过度偏向于将 AI 视为自动化的狭隘愿景，这种偏向可能在广泛意义上并非最优，不仅对许多工作者如此，对许多企业和更广泛的经济增长也是如此。我们该怎么做？稻草人式的答案是自上而下的政策。更严肃的答案是自下而上且多方面的。我们设想一种去中心化技术试验的体制、计算机科学内部的一些思想和文化转变、一些精心瞄准的政策杠杆，以及企业逐渐发现自动化议程可能在其自身逻辑上难以为继。

新进入者和产品开始迎合对协作智能体未被满足的需求

市场上还没有真正的协作智能体。由 OpenAI 前 CTO Mira Murati 创立的实验室 Thinking Machines 已发布了此类智能体的架构。在他们的设想中，有一个面向用户的模型，具有超低延迟和多模态能力，将更复杂的工作交给能力更强的后台模型处理。然而，他们尚未交付可用的产品。尽管如此，有一家资金充裕的公司对人机协作下了大赌注，这仍令人欣慰。

与此同时，三大前沿实验室（OpenAI、Anthropic 和 Google）都在大力推动低延迟，尤其是 OpenAI，这得益于其与 Cerebras 的合作，以及 Cursor 和 Cognition。我们预测，随着更多工作者体验到这种与 AI 协作的方式，对其需求将会增加，从而形成飞轮效应。

另一类可能构建协作智能体的公司（尽管它们尚未这样做）是那些专注于特定领域或垂直行业的公司，例如法律领域的 Harvey AI 或医学领域的 OpenEvidence。有效的协作系统通常需要领域特定的痕迹、隐性专家知识、领域专业知识。与能够弄清楚如何将 AI 能力与深度领域特定知识相结合的行业特定公司相比，大型前沿 AI 实验室可能自身并不擅长做到这一点。这种组织模式最能发挥作用的许多行业，如法律和医学，都受到严格监管。受监管行业是协作式人机模型的天然目标，因为在许多决策点上，人类本来就是法律要求的。

超越协作：通往互补性的多条路径

协作只是人机互补性更广泛的配置设计空间中的一个例子。以下还有一些其他例子，旨在说明而非穷举。对于这些替代配置中的每一种，都可以想象重复第 1 节的练习，将其分解为离散的技术挑战。

集体智能：AI 可以转变和调解人类工作者团队彼此之间的协作方式。这可以采取多种不同形式：保存组织记忆、调解冲突、识别团队内的专业知识、综合分布式知识，以及以其他方式帮助协调。因此，这里的直接目标不是执行特定任务；而是总体上提高人类团队的生产力。
新任务与新能力：使用 AI 来自动化现有的人类劳动，与使用 AI 来完成新任务（这些任务原本没有任何人类能够完成）有很大不同。历史上有许多技术创新显然属于这种类型，例如飞机或显微镜。
技能提升：从任务完成的短期工作退后一步看，AI 还可以帮助人类工作者提升其长期能力。AI 在内化隐性专家知识方面特别有效；通过有意识和深思熟虑的设计，它随后可能有效地使工作者在其领域中长期变得更加专业。
环境智能体：AI 模型/智能体的通常范式是，模型是我们可能称之为被调用模型的东西：当你明确调用它并要求它做事时，它才会出现。相比之下，我们可以定义一个“环境智能体”：一种在整个组织中运行的 AI 模型，观察上下文并提供帮助，即使没有被明确调用。虽然这带来了一系列独特的挑战（隐私、谨慎），但它也是一种不同的人机协作范式，具有独特的机遇（更多上下文、更多组织知识、有趣的新颖协调形式）。

HCI 与文化变革的作用

在计算机科学领域，HCI 历史上是认真对待人机协作的先锋。如今，它在计算机科学中处于较为边缘化的位置。如果它能在帮助计算机科学从自动化议程转向更具生产力的方向方面发挥超常而重要的作用，那么需要同时发生两件事。

首先，计算机科学系、资助机构和其他议程制定者可以尝试有意识地提升人机交互（HCI）的地位。其次，HCI 可以进化以适应当下。它在历史上一直在智识和方法论上自我设限，这在一定程度上解释了它的边缘化。简单来说，HCI 将人类控制视为公理而非工具性目标，其分析单位是用户，这使得它在关于企业、组织、激励、权力和政治经济等更广泛问题上几乎无话可说。

以人为中心的 AI 这一新运动部分是对复兴的尝试，也是将 HCI 与 AI 综合起来的努力，尽管在体量和影响力上远不及更主流的 AI 领域，后者通常倾向于接受行业的优先事项。然而，在一种可能的未来中，一个更好的、经过变革的 HCI（以及 HCAI）版本在大学内的地位上升，并拥有有意义的议程设置权。

同样，AI 教学法也有以 AI 系统为中心而遗忘人类的历史。但不必如此。人们可以想象对教学大纲、基准设计、研讨会和资助优先事项的改变。

有针对性的政策

除了粗暴的自动化禁令或自上而下的技术指令之外，更智能、更有针对性的政府政策也可以成为重新调整自动化议程的更广泛成功故事的一部分。

在供给侧，这些可以包括研究资助优先事项，甚至 DARPA 式的奖项。在需求侧，美国税收政策目前偏向自动化，这种不对称可以缓解，但这需要谨慎，以避免将 AI 系统粗暴地监管分类为自动化或增强。政府还可以利用其作为 AI 主要购买者的权力。最后，要求对 AI 进行人工监督的监管必须坚持有效监督，而不是橡皮图章式批准。

竞争政策也可以有所帮助。自动化范式有很大的先发优势，政策制定者应确保客户不会被锁定。让工人在 AI 部署的谈判中拥有更多发言权，是另一种在不强制要求的情况下引导走向增强的方式。

结论

AI 的自动化议程目前正在关于 AI 方向的内部斗争中获胜。利害关系非常高。历史上最大的和平时期私人资本部署之一，现在正大部分投入到一种 AI 自动化愿景中，这种愿景本身可能在经济上站不住脚，同时也浪费了 AI 帮助我们做我们原本做不到的事情的全部潜力。

幸运的是，有一大群人——经济学家、技术专家和其他人——正在试图理解和发展 AI 的另一个方向，一个更加强调人机协作的方向，其目标是能够做新的事情，而不仅仅是自动化旧的事情。

这第二个方向的核心任务是定义和追求一个系统性的 AI 研究计划，以服务于这种协作。我们的希望是，通过更大的集体意识和意图，以及更好地汇集和协调已经存在的众多努力，一种自下而上的、去中心化的方法可以成功地引导 AI 开发和部署的方向，而不需要自上而下的命令或指令。

建议进一步阅读：

关于经济学家就此主题的写作样本，参见The Turing Trap和Building Pro-Worker AI。
关于这些思想在 AI 和 HCI 中的简要历史，参见How AI Fails Us的第五部分 B 节。
论文Human Amplification, Intelligent Agents, and the Aims of AI Research从哲学视角提出了与我们类似的论点。我们的范围更窄，聚焦于面向工作者的 AI 工具。
论文AI Agents Push Humans Out of the Loop批评了当前 AI 智能体的设计。
个人可以做很多事情来增强自身的能动性，而不必等待 AI 系统被重新设计：Arvind 在他的ICML 演讲中提出了一些想法。

业界对其工具旨在帮助工作者而非取代工作者这一点有许多陈词滥调。但揭示出的优先事项——AI 智能体如何设计、如何评估，甚至 AI 课程中教授什么——却讲述了一个截然不同的故事。自动化假设也是业界领袖频繁预测大规模失业的基础。OpenAI 的章程明确表示其使命是 AGI，定义为“在大多数具有经济价值的工作上超越人类的高度自主系统”。像 Mechanize 这样的公司也异常直白地表示全面自动化所谓的不可避免性。

来源：AI as Normal Technology · normaltech.ai