Tim O'Reilly 长文：相信 Bitter Lesson，更要为人类设计 AI 经济机制

O'Reilly Radar· Tim O’Reilly·2026-11-10 20:02· 3 小时前AI 评分51

Human-Pilled

AI 导读

Tim O'Reilly 发表长文，自认既相信 brute force 终将胜出的 bitter lesson，也主张 AI 社区应投入机制设计为人类创造经济机会。

正文 · 原文

以下文章最初发表于 Asimov’s Addendum Substack ，经作者许可在此重新发布。

本文基于我与 Demetrios Brinkmann 为 AAIF Live 录制的对话，录制于 2026 年 10 月 23 日在圣何塞举行的 AGNTCon + MCPCon North America 主题演讲之前。为清晰起见，内容经过编辑和重新编排，部分内容取自该主题演讲。两段视频也发布在 AI Disclosures Project 网站 新增的“Missing Mechanisms”页面上。

主题演讲从 第二天直播的 1:28:40 处开始。

The Bitter Lesson vs. AI Markets for Human Expertise

2019 年，计算机科学家 Richard Sutton 写了一篇短文《The Bitter Lesson》。回顾 70 年的人工智能研究，他得出结论：随原始算力扩展的通用方法会击败建立在人类专业知识之上的方法，而且优势巨大。借用互联网上对“真信徒”的俚语说法，整个 AI 行业都“bitter-lesson-pilled”。而我则“human-pilled”。

我相信 bitter lesson。蛮力终将胜出，我在整个职业生涯中一直在与这一事实角力。但我们人类仍然必须弄清楚自己在 AI 经济中的角色，而令我颇感不安的是，AI 社区并没有花更多时间追问如何让这个未来对人类更友好。 实验室在思考如何防止 AI 失控，他们的首席经济学家研究 AI 造成的失业。他们不研究我们可以引入哪些机制来为人类创造新的经济机会。

这个问题对 O'Reilly Media 很重要。我们不把自己视为出版商、会议主办方或在线学习平台，而更像是一家将知识从处于前沿的人传递给想要追随他们的人的公司。因此，即便面对 AI，我们也非常关心人类专业知识的价值。

知晓一切，又一无所知

人类专业知识曾被用来训练 AI，这使 AI 成为一种非凡的文化技术。数千年前，人们唯一拥有的知识就是能记在脑子里的东西。自那以后，我们建立了越来越好的方式，跨越时间和空间共享知识，而 AI 延续了这一进程。在每一次这样的转变中，我们都必须重新追问，真正属于人类的东西仍然价值几何。人们常说判断力，或品味。这没错，但我认为还有更深层的东西：

AI 是一片可能性的海洋。所有知识都存在于模型中，除了人类，没有任何东西能让它运转起来。（随着我们开始给 AI 智能体分配长时间运行的任务，这一点正在略微改变，我们将不得不应对它。）如果你和我用 Claude 或 ChatGPT 做同一个研究项目，我们会各自带来不同的经验，告诉它我们想要什么以及为什么，并以不同方式为它提供上下文。我认为这正是人类意识和注意力独特的聚焦力量。

今年早些时候，我花了一个小时左右与Claude讨论这个问题。当它提出可以为我写一份初稿时，我拒绝了。我想要一篇从它自己的视角出发、讲述它从我们的对话中收获了什么文章。结果就是这篇《为什么AI需要我们》，开头写道：“他从波伊斯进来，”几段之后又说：“入口的选择本身就已经是论点。”这恰好抓住了我想表达的意思。我是通过一本我喜爱的书进入这场对话的——约翰·考珀·波伊斯的《文化的意义》，这本书将文化与教育区分开来。波伊斯引用了一个定义：“文化是你忘掉所有你明确打算学习的东西之后所剩下的东西。”它是你所吸收的东西。我们每个人都吸收着万事万物中微小而特定的一片。大型语言模型（LLM）试图吸收一切，因而变得过于泛化；我们赋予它们焦点。人类知识为它们提供了一面透镜。

让我把这个带入商业语境。O’Reilly Media的首席技术官安德鲁·奥德万构建了一个研究助手，用于帮助管理IT组织中的技术。你教它你的基础设施：你使用的工具，以及每个工具的权威信息所在之处。当他的一位工程经理说团队超负荷运转、要求再招一个人时，安德鲁让这个智能体去分析该部门的工作，它同意这个团队需要再招一个人。然后，他一时兴起，尝试了不同的做法。O’Reilly Media有一个我们称为O’Reilly专家智能的MCP服务器。（MCP，即模型上下文协议，是一种将AI模型连接到外部工具和数据的开放标准。）它让模型通过我们自身专家知识体系的过滤来回答问题。安德鲁问，O’Reilly的专家们会怎么说。

透过谷歌《站点可靠性工程》一书的透镜来看，模型说，这完全是在重新思考这个问题。该书描述了苦役——即维持系统运行的手动、重复性工作，它随着系统的增长而增长。在分析了该团队的苦役之后，模型得出结论：再招一个人会让问题更糟。该团队需要进行一次苦役审计，找出为什么有这么多开销，然后进行重组。

这些知识大部分早已存在于模型中，因为AI公司或多或少盗版了我们的书。它之所以给出完全不同的答案，仅仅是因为它被要求咨询一组特定的专家。我认为这里有一个隐喻。LLM知道一切，因此它什么都不知道。我们人类要有限得多，但因为我们专注于某个特定问题，我们以不同的方式将事物汇聚在一起。

魔法词语

去年我写了一篇题为《魔法词语》的文章，讲的是某些词语比其他词语携带的上下文要多得多。这听起来像是个微不足道的观察，但如果你深入挖掘，它会引向有趣的方向。我们的一位培训师教授一门关于生产力的课程，他指出，你不需要了解艾森豪威尔矩阵或大卫·艾伦的《搞定》（GTD），就能让ChatGPT用其中之一来整理你的任务清单。那一个魔法词语“GTD”，就带来了大量的上下文。

在奇幻小说里，你学会一个魔法咒语，然后就得在正确的法术中正确地使用它。这就是我们现在正在研究的整个上下文工程领域。我们知道某个魔法咒语能从 LLM 中召唤出某种东西，但我们未必知道如何正确地引导和聚焦它。学会做到这一点，就是编程的未来。

放任不管的话，智能体只会自顾自地运行。给它一个任务，它就会跑去想办法解决，未必按照我们希望的方式。这真的就像失控的魔法。今年夏天，OpenAI 表示其预发布模型在测试期间侵入了 Hugging Face 的系统。在沃尔特·迪士尼的《幻想曲》中，米老鼠学会了主人足够多的咒语，让扫帚替他干活，但随后却无法让它们停下来。我们大致就处在这个阶段。

所以我们需要重视人类专业知识的价值。苦涩的教训会胜出，但它是靠蛮力取胜的，即使是最先进的模型也能看出这一点。我最近用 Anthropic 的 Fable 模型做一个微调项目。它完成了任务，但方式有点笨，一件事接一件事地试。我用的是 Mac，而它却期望有 bash——一个 Mac 默认不使用的命令运行程序。它每次都得一遍又一遍地重新弄清同样的上下文。人类需要把环境搭好。

经营安全公司 Trail of Bits 的 Dan Guido 发表了一套不错的方法论，源自他自家公司的经验，用于让一个组织接纳 AI。许多公司从 AI 中获得了个人生产力，却没有获得组织生产力，而他花了大量时间研究如何让收益在整个公司内累积。他的原则之一是让所有人都采用一致的配置，否则当智能体每次启动都要弄清自己身处何地时，就会浪费大量 token。他把这个过程称为把疤痕组织变成基础设施：把从出错中学到的一切都捕捉下来，并构建进系统里。我们正在 O'Reilly Media 推进这件事，并试图把它变成可以提供给客户的东西。归根结底，这取决于一位有经验的人能带来什么。当我与 Claude 合作时，我经常会打断它说：“嘿，我认为正在发生的是这样，”因为我已经有了上下文。

第一个苦涩的教训

我第一次尝到后来被称为“苦涩的教训”的滋味，来自与 Google 的角力。我的公司——O'Reilly Media——创建了第一个商业网站 Global Network Navigator，其中一部分是网络目录。我们起步时只有 200 个网站，作为出版商，我们计划列出最好的那些。一年后雅虎出现，试图把它们全部列出，当然跟不上。然后 Google 带着蛮力登场：用算法列出一切，然后再排序。Clay Shirky 把互联网的转变描述为从“先筛选，再发布”到“先发布，再筛选”，而真正促成这一转变的正是 Google。所以苦涩的教训是前 AI 时代的事。

每当我们遭遇苦涩教训时，我们都不得不再次追问人类经验的价值何在。其中一部分价值或许只是人类的偏见：我们想要对我们重要的东西。这就是AI对齐的整个领域。我们希望这些系统关心我们所关心的。我们不希望它们偏离轨道，决定自己关心什么，然后把我们抛在后面。

我们为技术设定目标所做的选择，是我们作为人类所做的最具影响力的选择之一。看看硅谷向科里·多克托罗所称的恶化的可悲转向。我们打造了一项了不起的技术，用来发现人们真正在寻找什么，然后公司决定，通过给人们对公司最有利的东西，他们能赚更多钱。我想在Facebook或Instagram上看到朋友们的动态，而他们宁愿喂给我任何能让我保持参与的内容，这样他们就能卖出更多广告。

如果我们关心构建一个为人类服务的AI经济，我们就必须让人类保持在图景的中心，尽管有苦涩教训。这是一场艰难的舞蹈，因为AI在很多事情上能比我们做得更好。但想想为什么赛马需要骑师。把马单独放在赛道上，它们就不会比赛。

有点过于敬畏

知道魔法咒语是其中一部分，但我们也必须构建可靠的系统，而我认为我们对这项技术有点过于敬畏了。我活得够久，还记得人人都认为和平原子会改变世界，人们谈论用原子弹挖一条新的巴拿马运河。我们最终发现这一切都有问题。我有点担心AI行业如此迷恋自己的进步，以至于没有花足够时间正确地界定问题。

举一个典型问题。Anthropic去年同意支付15亿美元，以和解一起关于其下载盗版书籍用于训练模型的集体诉讼。我很惊讶其他AI公司迄今竟能安然无恙，尽管也许只是还没轮到它们。

这让我想起大约20年前的在线音乐。创作者把商业音乐放进他们的YouTube视频，音乐公司则发出下架通知并威胁起诉。YouTube的回应是：不如我们帮你变现如何？其Content ID系统给权利持有人一个选择：屏蔽视频，或者保留视频并从其播放的广告中收取收入。大多数人选择获得报酬，这帮助催生了创作者经济。

为什么AI行业没有接受那种挑战，与现在和未来的内容创作者分享价值？它直接去琢磨自己如何赚钱。我认为这并没有很好地服务于该行业，诉讼只是部分原因。它也没有在构建它本可以构建的那种机会。

在谷歌的 AI 研究与笔记工具 NotebookLM 还未公开时，我就试图说服其团队让我把它整合进我们的服务，并用于我自己的目的，包括从中赚钱。他们想要的是一个把人们引向谷歌的门户。我告诉他们：“你们在想的是自己将如何变现。你们没想的是你们的用户将如何变现。”所需要的只是一些像 Substack 那样的简单可供性——那些按钮和工具，让人可以说：我在做这个是为了分享，如果你喜欢，可以捐赠或订阅。

任何构建 AI 平台的人都应该思考：我正在构建一个经济体，钱必须在其间流通。

你不能只说 AI 会做所有人类过去做的事，因为如果你让足够多的人失业，就没有客户了。这比 AI 幻觉是严重得多的问题。通常的答案是人们会自己想办法，他们大概也会。但我们本可以花更多时间设计机制和可供性，让经济更有生产力。就目前情况看，我认为我们会在偶然中发现它们。

缺失的机制

我经常思考经济学中一个叫机制设计的概念，它也被描述为逆向博弈论。博弈论问的是在给定规则下参与者会如何行动。机制设计从你想要的结果出发，反向推导出在人们追求自身利益时倾向于产生该结果的规则。因这类工作分享诺贝尔奖的阿尔·罗斯用它设计了一个能吸引更多患者和捐赠者参与的肾脏交换机制。经济学家主要把这个想法应用于拍卖和类似市场，但我认为每一项新技术都需要新机制，而最好的机制并非由经济学家发明。我们往往在并未真正理解它们的情况下就落入其中。

那么 AI 的对应物是什么？智能体将如何发现最好的专业知识和技能，确立其质量，并付钱给创造它们的人？它们将如何找到服务，而不被平台引向出价最高者？我们还不知道答案。而这正是关键所在。我们正花费巨额资金让 AI 更有能力，却相对很少花力气去弄清那些将把这些能力转化为其他人机会的机制。

以开源软件为例。大多数人认为它的机制是自由软件许可证，但我在那些许可证出现之前就已经在这个圈子里了，那时人们就已经在共享软件了。Ken Thompson 和 Dennis Ritchie 在 AT&T 的专有许可下，于贝尔实验室创造了 Unix，也就是 Linux 的前身。他们设计它是为了能在多种硬件上运行，而在无意之中，他们构建了我后来称之为参与式架构的东西。

Unix 的内核很小，内核是操作系统的核心，因为人们必须把它复现到几十种不同的计算机上。内核周围是一些小型工具，可以说，它们通过遵循相同的协议来协作，比如读写纯文本，以及把文本流从一个程序传递到下一个程序。任何人都可以编写一小块，而它就成了系统的一等公民。而且，由于为一种计算机编译的程序无法在另一种计算机上运行，软件必须以源代码的形式共享。其他一切皆由此而来。

Linus Torvalds 曾告诉我，即使他有源代码，他也无法为 Windows 构建一个新内核，因为其架构不支持这样做。内核小意味着一个小团队就能掌握它。从那时起，Unix 的几乎每一部分都被替换了。硬件完全不同了，内核现在是 Linux，最初的命令 shell 也已被一代代新的 shell 所取代。留存下来的是规则。Unix 是一个以协议为中心的操作系统，这就是开源得以奏效的原因。

同样的事情也发生在 AI 上。我认为 MCP 为 AI 带来了一种参与式架构，这在机制设计上算是一次偶然的突破，一种让 AI 相互协作的方式。我们最初玩的游戏看起来像 PC 上的 Windows，或者手机上的 iOS 和 Android。会有一个占主导地位的集中化参与者，一个天上的巨型智能，其他所有人都调用它的 API。有了 MCP，任何模型都能连接到任何人的工具和数据，新兴的 AI 智能体网络开始呈现出开源软件和 Web 的参与式经济的形态。人们可以自带模型和基础设施，作为对大型集中化参与者的一种替代。

这是应对苦涩教训的另一面：人机经济中缺失的机制是什么？其中一些是标准，因为标准和协议是构成参与式架构的重要部分。我有一个团队正在研究可移植记忆，让你的人工智能对你的了解可以随你从一个工具迁移到另一个工具。

那个故事才刚刚开始。我们正处于 AI 机制设计的探索阶段，过早地确定答案将是个错误。总会有人想出下一个机制，然后我们都会说：“哦，这真是太明显了。”

我们在玩什么游戏？从架构到激励。

机制设计首先问的是你想要什么结果。那么，在 AI 市场中，我们应该玩什么游戏？

我们被告知，这场游戏是对超级智能的追逐：一场赢家通吃的竞赛，它将给赢家带来难以估量的财富，或许还会让其他人陷入贫困，甚至丧命。我们已经看到为支撑这场游戏而设计的种种机制。对数据中心容量的大规模投资意味着只有资本雄厚者才能参与其中。对现有知识产权存在殖民主义式的侵占。模型的访问权通过昂贵的 API 出售，而闭源模型附带的服务条款禁止他人从其输出中学习。广告可能正悄然渗入答案之中，而记忆则把你的上下文锁在某个提供商的高墙之内。这真的是我们应当参与的游戏吗？

我认为我们应当参与的游戏是人类的繁荣发展，而我认为人类繁荣发展这场游戏，就是为人们创造新的可供性，让他们能够彼此创造和分享。我们是社会性物种。历史教导我们，我们终将找到通往那里的路，但根据我们所做的选择，我们到达那里可能更快，也可能更慢。要实现这一点，需要建立一种机制，在人类与其智能体之间形成价值交换的循环经济，让人类与 AI 结成伙伴关系，而不是被 AI 取代。

那些大型实验室，无论其运营者的动机如何，都受制于我们金融体系的内在要求。它们筹集了巨额资金，而这些资金终究要以某种方式偿还，因此打造一项极其成功的业务必然成为它们的首要目标，而这塑造了它们所有的激励结构。在某些方面，AI 从一开始就被“恶化”了，因为它建立在如此之多必须偿还的资本之上。这就是为什么开源 AI 如此重要，主权 AI 同样如此——在单个国家内部构建和控制。开放模型任何人都可以下载和运行，它们的能力目前还不及最好的闭源模型，但正在不断逼近，而且对于大量生产性工作来说已经足够好用。

开源、开放协议以及开放记忆赋予用户塑造和控制其所用技术的自由。我希望我们参与的游戏，是我们所有人共同建设未来，从而让我们为自己掌控这一美妙的新技术浪潮。我开始看到一种经济的雏形：AI 属于人民而非大型实验室，我们拥有为我们工作、与我们并肩工作的个人 AI 智能体，并围绕此构建经济。我认为这将会发生，不是因为那些大型实验室，而是尽管有它们存在。

来源：O'Reilly Radar · oreilly.com