Arca 如何用 AI 智能体处理长周期金融工作：智能体提示人，而非人提示智能体

本月在 AI Engineer New York 上，我们与 Aman Singh 进行了交流，他是 Arca 的首席 AI 工程师，这是一家提供财富管理服务的“AI 原生”公司。

我们发现，虽然智能体承担了公司大部分后台工作，但公司设置了防护栏，以确保由人类顾问做出最终决策。目标是让 AI 引导流程；或者正如 Singh 精辟地指出的，“智能体提示人的时候比人提示智能体的时候更多。”

Arca 最近在由 General Catalyst 领投的一轮融资中筹集了 4850 万美元，Index Ventures 和 Venrock 参投。

Singh 解释说，在金融服务中使用 AI 的特点之一是，这通常是长周期工作——尽管并非长时间持续运行。在他的 AIE 演讲中，Singh 指出，Arca 的智能体任务最长可能需要十天。“它非常断续，中间有许多参与者、许多决策点、许多交接，”他说。

因此，Arca 开发了一套内部记忆系统。

“所以我们为每位客户都保留了持久化记录，”Singh 在我们的播客讨论中说。“到目前为止发生了什么？我们接下来在追踪什么？未来几天内需要立即发生什么，[以及]我们在长期追踪什么？哪个人负责哪项行动？所有这些都由我们的记忆系统追踪，我们的智能体为其提供信息。”

Arca 使用 Anthropic 和 OpenAI 等前沿实验室的模型，其中 Claude 是其主要模型提供商。该公司构建了自己的 harness，它会根据公司内部基准，自动为特定任务选择最佳模型。

拥有自己的 harness，而不是使用托管的智能体 harness，也意味着Arca 可以在需要时灵活更换模型提供商。

安全性对金融服务显然至关重要。Singh 指出，尽管智能体承担了大量工作，但智能体的角色仅限于分析和提出解决方案。交易及任何其他资金流动都由人类顾问处理。

“我们所有的安全限制都是完全确定性的，”他说。“它们把决策权从智能体手中拿走。”

换句话说，有些工具和任务智能体可以自行执行——但不包括会给客户带来风险的任务。Arca 还会针对已知的 AI 安全问题（如提示注入）运行验证检查。

Arca 的智能体本身并未被沙箱化，但它确实使用沙箱进行计算。Singh 解释说，他们更进一步，为处理敏感数据采取了额外的安全措施。

“我们构建了系统，使沙箱内的代码能够安全地访问我们的数据，”他说。“所以我们有这样一个机制，把它[智能体]编写的代码转换为我们期望的严格格式，丢弃原代码，并在该格式到达后端之前对其安装防护栏。因此我们允许智能体使用代码查询我们的数据，这意味着它们可以聚合数据、处理数据，并按其认为合适的方式使用数据来生成[诸如]财务计划之类的内容。”

Arca 实施的另一个有趣流程是利用人类顾问的反馈以及智能体的运行轨迹来改进 harness。一个“元智能体”被用来分析所有这些数据，并提出对 harness 的修改建议。

播客时间戳

• 00:00 — 介绍 Arca 的 AI 原生财富管理公司

• 01:40 — AI 如何支持人类财务顾问

• 02:40 — 借助内部基准选择模型

• 04:01 — 构建自定义 harness 并路由任务

• 05:25 — 处理 10 万美元税单：智能体与人工审批

• 07:20 — 智能体在长时间运行任务中的记忆

• 09:22 — 安全护栏与提示注入防御

• 11:02 — 默认合规与可审计性

• 12:14 — “智能体提示人的次数多于人提示智能体”

• 13:46 — 为什么 Arca 拥有自己的智能体基础设施

• 15:05 — AI 原生公司与使用 AI 工具的公司

• 16:09 — 沙箱与财务计划验证

• 18:40 — 决策模型与财务事实核查

• 19:51 — 为什么交易执行仍由人类专家负责

• 20:32 — 将员工反馈转化为评估与改进

• 22:22 — 将运营知识转化为智能体上下文

• 23:41 — 客户案例：隐藏费用与主动服务

观看 Aman 的 AIE 演讲