智能免费之后：面向智能体、由智能体运行、由智能体构建的数据系统

……民有、民治、民享的政府……
    ——亚伯拉罕·林肯，葛底斯堡演说（1863年）

AI 的成本正在迅速下降。2023 年初，GPT-4 级别的能力每百万 token 大约需要 $30；如今同样的运行成本不到 $1，而且一些提供商正将成本压到 $0.10 以下。在各项基准测试中，推理价格每年下降 9 倍到 900 倍，中位数降幅接近 50 倍。即便是前沿模型也每一代都变得便宜得多，开源模型紧随其后。而关键在于，即使“诺贝尔奖得主级天才”智能尚未到来，足以胜任绝大多数知识工作的智能今天已经存在，并且每个月都在变得更便宜。照此速度，我们很快将进入近乎免费智能的时代——这种智能对于日常知识工作而言绰绰有余。

披露：本文是由Aditya G. Parameswaran——加州大学伯克利分校 EECS 副教授、EPIC Data Lab 联合主任——及其合作者主导的观点文章。它既是领域综述，也是观点阐述，下文讨论的若干研究方向（包括智能体推测、结构化记忆，以及从零合成定制数据系统）都源自作者们正在进行的工作。

那么，这个近乎免费智能的新时代对数据系统意味着什么？我们认为，接近零的推理成本带来了三个新挑战——也是新机遇：

为智能体服务的数据系统。智能体很快将成为数据系统的主导工作负载——每个终端用户请求都会催生一群智能体。鉴于智能体与人类——或代表人类行事的应用——在特性上的差异，我们应如何为这类智能体用户重新设计数据系统？

智能体的数据系统。随着智能体开始承担大部分知识工作，需要一种新的基础层，让成千上万个智能体在长时间运行的任务中管理状态、协调并达成共识，以及处理故障。能够可靠且高效地运行和管理智能体集群的数据系统是什么样子？

智能体构建的数据系统。智能体正迅速变得能够一次性合成完整的数据系统——这意味着我们可以为每个新工作负载重建定制系统。验证这类系统是否符合预期行为是一项挑战。要让智能体合成我们真正可以信任的数据系统，需要什么？

为智能体、智能体的、智能体构建的数据系统

接下来，我们将更详细地讨论每一项，然后探讨数据系统与智能体交织的未来，尤其是当这三个挑战相互交汇之时。

代理查询数据库的行为既不像人，也不像 BI 工具。它执行的是我们称之为代理式推测的过程：一股高容量、异构的工作流，涵盖模式内省、列式探索、部分查询构建再到完整查询构建。当多个代理各自探索假设空间的不同部分时，每个用户请求可能对应成千上万条独立的 SQL 查询。如今，用户可以提出“高层级”的数据任务，例如根因分析——比如“为什么今年伯克利的咖啡销量下降了”——或探索性队列分析——比如“哪些用户群体下个季度最可能流失”——每一项都涉及由潜在连接、聚合和过滤条件组合而成的组合空间。

为更有效支持代理式推测而重新设计的数据系统

来自这些代理的请求有多种优化机会。例如，在一个多代理尝试每项任务的 text-to-SQL 基准测试中，只有 10-20% 的子计划是不同的。因此，80-90% 的子查询在做重复工作。同样的实验表明，随着代理尝试次数增加，任务成功率显著提升——所以这种冗余实际上是有帮助的。但从数据系统的角度看，这是浪费的工作。

代理优先的数据系统可以利用这些特性帮助代理更快取得进展。它可以在重叠的子计划之间复用结果，借鉴已有数十年历史的多查询优化和共享扫描文献中的思想。或者，数据系统可以尝试满意化，返回对代理取得进展来说足够好的近似答案，利用近似查询处理文献中的成果——或者流式返回最终或中间算子的结果，帮助代理判断是否有必要或有助于查看其余部分。

这里的另一个机会是完全重新思考查询接口：代理不再一次只发一条 SQL 查询，而是可以发出一批查询，每条查询都有自己的近似要求。由于枚举指数级搜索空间（如上述根因分析或队列分析示例）并不是对代理推理能力的良好利用，也许数据系统应该支持更高层级的原语，而不是要求代理显式列出每条 SQL 查询。这里的一个想法是借鉴DBT 风格的 Jinja 宏，为代理与数据系统交互提供基于循环的原语。

一支喝足咖啡的代理大军，随时准备不知疲倦地完成你的数据任务

这里的最后一个机会是不要再把数据系统视为查询的被动执行者；数据系统可以是主动的，因为它们对数据和系统特性的掌握比代理先验可能拥有的更多——它们可以引导代理走向不同方向，为相关查询提供结果，还可以提供性能层面的反馈（例如，系统可以先给代理一个延迟估计，而不是执行一条昂贵的查询）。我们现在能做到这一点而过去不能，原因在于代理可以接受任何形式的文本反馈，并不期待严格的 SQL 查询结果。事实上，数据系统还可以提前为代理准备好物化视图和虚拟视图，作为上下文的一部分提供给代理，因为这可能比让代理编写或使用它们更便宜或更有效。

代理的数据系统

此前，我们关注的是智能体如何与数据系统交互。现在，我们考虑智能体持续工作所需的其他一切：它们住在哪里、如何记忆、如何相互协调，以及如何处理彼此之间的故障。这个智能体基座与驱动原始智能的推理栈是分开的。然而，推理栈本身正通过 API（例如来自 OpenAI 或 Anthropic）被抽象掉，或者对于开放权重模型，通过隐藏底层细节的服务框架被抽象掉。到目前为止，智能体基座一直通过像 Claude Code 和 Codex 这样的 harness 来管理，并结合各种存储和检索记忆的机制。

首先，在记忆方面，当前的共识是文件就是你所需要的一切；智能体写入非结构化的 markdown（MD）文件，然后可以用 grep 搜索，或通过基于嵌入的检索来搜索。事实上，许多人认为持续学习的解决方案是让智能体消费大量内容（例如整个代码库、slack、公司 wiki 等），然后将它们学到的东西写入 MD 文件，再按需选择性地检索。确实，文件系统、bash 脚本和 MD 文件对智能体来说现在重要，将来也仍然重要。然而，在规模化的情况下，当智能体完成绝大多数知识工作时，这种方法将不再有效。

鉴于上下文窗口有限，检索所有可能相关的 MD 文件片段并将其塞入上下文，在某个时刻就会崩溃。即使上下文窗口继续增长，不把所有信息放入上下文也有延迟方面的好处——而且在许多情况下，例如当知识工作涉及与大型数据库或代码库交互时，将所有相关数据序列化到上下文中是不可行的。

数据系统作为多智能体集群的基座

人们可以使用知识图谱表示，但知识图谱由于缺乏结构化搜索，会遭受与非结构化 MD 记忆相同的局限。人们需要的是能够仅检索与任务相关的记忆，跨多个感兴趣的属性（或方面）。例如，一个调试不稳定测试的智能体应该能够只拉取带有相关模块、语言、框架和故障模式标签的记忆——而不是基于关键词或嵌入相似度进行检索。另一个问题是实际检索什么；带有错误的原始智能体轨迹不太有用，因为它们会诱导智能体重复同样的错误——相反，我们希望检索到的记忆具有纠正性。

我们最近探讨了一个相关的概念——结构化记忆，即我们按照各种属性来组织记忆，每个属性都可以设为*以表示普遍适用，或设为一个待匹配的值列表。对于数据智能体而言，这些维度可以包括列和表、操作类型，以及最后开放式的自然语言纠正指令。因此，我们可以纳入仅适用于某一类操作的记忆（例如‘在执行日期时间操作时，使用财年而非日历年惯例’），或仅适用于某张表的记忆（例如‘在按产品名称查询时，优先使用 product_cleaned 列而非 product 列’）。一个悬而未决的问题是定义特定应用的结构化记忆——也就是其他人所称的记忆的世界模型。我们认为这类似于为每个应用定义一套模式——或许智能体本身就能帮助我们随时间推移来定义和完善它。

存储和检索结构化知识的一种可能方式 [来源]

结构化记忆对于演化式框架有效管理搜索空间也将很有用。事实上，存储、结构化和挖掘大量单智能体与多智能体轨迹，可以帮助未来的智能体变得高效得多——有可能通过基于结构化记忆的机制实现有效的递归自我改进。

另一个挑战是，当有许多智能体在执行变换时，如何支持对共享记忆的并发编辑，以及一般的并发编辑。虽然已有一些有用的尝试来支持多版本化和写时复制语义，但当成千上万个智能体试图同时编辑共享状态时，这些技术是否足够尚不清楚。例如，当智能体为响应用户请求而尝试各种潜在事务时，其中绝大多数事务的效果都需要被回滚——只有那一个‘正确’事务的结果得以保留。支持恰好一次语义的工作在此相关，基于 CRDT 和操作变换的底层技术也同样相关。对于记忆这类模糊机制的更新，我们或许可以为了降低延迟而牺牲一致性以换取完全正确性。虽然智能体可以通过语义推理来补偿或回滚其操作，从而最终完成大多数任务，但主要挑战在于它们在此过程中相互干扰的程度。需要避免的一个重要失效模式是一种‘活锁’，即无休止的补偿操作阻碍了任何有意义的进展。

除了共享状态之外，在尝试支持大量智能体时还会出现其他问题，包括智能体失败时该怎么办、智能体之间应如何通信（直接通信还是通过中间共享状态通信），以及我们应如何处理掉队智能体。在支持持久的多智能体执行方面已有一些进展，例如 Temporal，但这类方案能否在数千个智能体的规模上适用仍有待观察。在通信这一话题上，我们需要机制来让智能体彼此协商。想象一下，四个开发者智能体试图就一个共享 schema 达成共识，它们的目标各不相同但又有所重叠。在人类场景中，这会涉及反复讨论和妥协；对于智能体集群，我们必须定义机制，让它们能够收敛到一个反映各自委托方底层目标的设计。或者，如果所有智能体都需要访问某个有限资源，同样需要通信。这最好通过集中式协调来完成，还是必须采用去中心化方法，仍有待观察。

由智能体构建的数据系统

最后，如果智能实际上变得免费，那么我们就可以利用这种智能从零开始合成新的数据系统。事实上，在许多场景中，通用数据系统可能过于笨重，因为它们必须支持每一种 schema、查询和硬件目标。给定一个工作负载，近期的工作，包括 Bespoke OLAP 和 GenDB，已经表明可以使用智能体流水线合成一个完整的、面向特定工作负载的分析引擎——耗时从几分钟到几小时，成本仅几美元。这些引擎是一次性的：当工作负载发生变化时，只需重新生成它们即可。类似地，我们的工作已经表明，可以从零开始合成定制的 键值存储，并针对工作负载进行优化。事实上，现代 IDE，例如 Kiro，已将系统开发的规格说明提升为一等公民。

智能体可以从零开始合成定制数据系统

然而，主要问题在于规格说明通常并不完美，无法覆盖所有边界情况。当今的智能体会利用缺失的规格说明，通过奖励黑客手段来获得高性能指标。在我们定制键值存储的工作中，我们发现缓解这一问题的一种方法是让辅助验证智能体尝试生成测试用例，以捕获对边界情况的利用，本质上是在扩展规格说明。还有一种方法是同时生成系统及其正确性证明，我们在这方面已经取得了一些早期成功，但还需要做更多工作来巩固这种方法。此外，如何最好地征集人类编写的系统规格说明仍有待观察——这能否以迭代的、人在环路中的方式完成，而不是一次性、不完整地完成。事实上，即使是人工编写的软件，人类编写的规格说明也是不完整的，因此可以预期，未来更加对齐的智能体在做出设计决策时会越来越多地运用更好的判断力。

一种可能的数据系统合成流水线 [来源]

这里的其他问题涉及测试从成熟系统（例如 Postgres）出发，移除组件/功能是否能带来更高性能或更多用户信任。另外，是否存在机会让设计可组合，由各种经过验证的组件组成，并根据工作负载进行混合和匹配？例如，也许工作负载变化不够大，存储层无需更新，但查询优化器可能需要更改。一个或许更可行的方案是采用智能体与证明系统相结合，针对与形式化证明相关的代码关键部分，而不是对整个系统这样做。

这里的最后一个机会是摆脱具有明确定义接口（例如解析器、查询优化器、存储管理器……）的传统数据系统栈——这些接口在很大程度上曾由单个人类团队管理。相反，智能体可以找到新方法将这些组件“融合”在一起，或许因此发现新的优化机会。智能体还可以填补功能上的缺失，使现有系统功能更加完整，或与其他竞争系统达到功能对等——或者类似地，根据功能请求或问题（也许由其他智能体提交！）持续改进开源系统。以优先考虑正确性、长期维护和人类可解释性的方式做到这一点将是一个挑战。

展望更远的未来

在智能近乎免费的时代，数据系统比以往任何时候都更重要。随着智能体承担大部分知识工作，数据系统的工作负载将发生变化，它们需要运行的基础设施将必须被构建，而且它们将越来越多地参与设计数据系统本身。这些转变中的每一个都开启了一个新的、令人兴奋的研究议程。

数据系统与智能体的共同演化

展望更远的未来，智能体与数据系统之间的界限可能会开始模糊。例如，智能体可能设计它们自己运行其上的数据系统，既定义接口，也定义底层的系统组件。接口和内部结构都可以由智能体以递归自我改进的形式随时间演化。还有一个机会是将数据系统重新思考为所有相关状态的统一真相来源：包括原始数据、内存和协调状态，进一步消除智能体查询的数据与智能体活动产生的数据之间的区别。最后，数据系统本身可能包含智能体组件，从根本上从被动的计算引擎演变为智能的、主动的、自我优化的架构。很难预测未来会怎样。我们将经历一场狂野之旅！

致谢

本文中描述的观点和正在进行的工作是与 EPIC Data Lab、Data Systems & Foundations 小组以及更广泛的 Berkeley AI-Systems 社区的出色合作者共同研究和多次讨论的产物。感谢所有人！

本文的 BibTex：

@misc{intelligence-is-free-blog,
  title={Intelligence is Free, Now What? Data Systems for, of, and by Agents},
  author={Aditya G. Parameswaran and Shubham Agarwal and Kerem Akillioglu and Shreya Shankar
          and Sepanta Zeighami and Rishabh Iyer and Matei Zaharia and Alvin Cheung
          and Natacha Crooks and Joseph Gonzalez and Joseph Hellerstein and Ion Stoica},
  howpublished={\url{https://bair.berkeley.edu/blog/2026/07/07/intelligence-is-free-now-what/}},
  year={2026}
}