跳到正文
Hacker News· jcs·· 1 天前精选AI 评分76

Coral 开源智能体网关发布:智能体可自写 TypeScript 工具并复用

Show HN: Coral – Open-source gateway where agents write their own tools

AI 导读

Coral 是一个开源、自托管的智能体网关,位于智能体与其操作的系统之间,智能体通过编写短 TypeScript 程序调用工具,成功的程序可保存为自定义工具复用。

推荐理由

原文给出了自定义工具复用与逐调用策略校验的具体机制,以及 34 项任务上的 token、成本与耗时对比数据。

正文 · AI 翻译

Coral, with engraved orange corals

智能体的执行轨道。

Coral 是一个开源、自托管的网关,位于你的智能体与其所操作的系统之间。智能体通过编写简短的 TypeScript 程序来调用工具,并将运行成功的程序保存为自定义工具以便复用。Coral 在添加凭据并转发调用之前,会依据你的策略检查每一次调用。

CI License Docs Slack

快速开始 · 下载 · 演示视频

在此示例中,智能体首次将未经审核的拉取请求发布到 Slack。智能体搜索 GitHub 和 Slack 工具,并编写调用它们的代码。未经批准它无法发布到 Slack,因此由用户批准该发布。随后智能体将其代码保存为自定义工具。第二天,智能体通过调用该自定义工具来运行同一任务。

In Claude Code, an agent posts unreviewed pull requests to Slack. It searches Coral for the GitHub and Slack tools, writes code that calls them, and waits for approval before posting. The Coral UI then shows the run, who approved it, and the custom tool the agent saved. The next day, the same request runs by calling that custom tool. A final card compares the two days: 35% fewer tokens and 31% faster, in line with our benchmarks.

控制智能体能做什么。大多数 MCP 网关只决定智能体能看见哪些工具。这是全有或全无的:如果智能体能调用 update_record,它就能以该工具允许的任何方式更新任何记录。自定义工具是代码,因此它可以承载 Allow 和 Block 无法表达的规则。例如,closeStaleTicket 只更改一个字段,且仅针对 30 天无活动的工单。你可以像对待其他工具一样,对自定义工具设置 Allow、Ask 或 Block。Coral 仍会依据你的策略检查其中的每一次提供方调用。

减少重复的智能体工作。智能体每次任务都从零开始。它们重新读取工具 schema、重试失败的调用,并花费 token 重写昨天已经做对的步骤的代码。借助 Coral,智能体将运行成功的代码保存为自定义工具,并在一步内再次调用它们。工作区所有者可以将这些工具共享给整个团队。

超过 450 家公司的数千名开发者使用 Coral 进行更安全、更高效的智能体工作。他们将其用于客户支持、SecOps、商业智能、SRE 等领域。

开始使用

  1. 安装 Coral。

    • 要自行使用 Coral,请从下载页面下载桌面应用。它支持 macOS(Apple silicon)、Windows(x64)和 Linux(x86_64)。
    • 要与团队一起使用 Coral,请使用 Docker Compose 或 Kubernetes 运行共享服务器。你需要一个 OIDC 身份提供方、一个用于 TLS 的反向代理,以及 SQLite 或 Postgres。
  2. 添加提供方。提供方是你的智能体可以使用的一项服务,例如 GitHub 或 Linear。从目录中选择一个,或自带 OpenAPI 文档或 MCP 服务器。默认情况下,读取数据的工具会立即运行,其他所有工具都需要你的批准。参见添加提供方。

  3. 连接你的智能体。从 Coral UI 复制工作区的 MCP URL,并将其添加到你的 MCP 客户端:

    claude mcp add --scope user --transport http coral <your-mcp-url>   # Claude Code
    codex mcp add coral --url <your-mcp-url>                            # Codex

    对于 Cursor、VS Code、OpenCode 和其他客户端,参见连接 MCP 客户端。

  4. 提问。向你的智能体提出使用该提供方的问题,例如“我有哪些未关闭的拉取请求?”

为什么选择 Coral

我们在构建 AI SRE 时开始了 Coral。为了调查一次事故,智能体必须在海量遥测数据以及内部与外部系统之间未记录的关系中理清头绪。它需要广泛的权限和大量 token,而且下次还要从零开始。

我们构建 Coral,是为了让智能体记住路线。一旦任务成功,智能体就将有效的步骤保存为自定义工具。下次,它会在与 Datadog 和 Slack 等提供方工具相同的搜索中找到该工具。Coral 始于 SRE。如今,团队将其用于整个组织内的智能体工作:

  • SRE。 该 agent 负责调查告警。自定义工具让它只能回滚你指定的服务。
  • 客户支持。 该 agent 负责处理退款,并在你定义的场景下升级给人工处理。
  • 商业智能。 自定义工具会聚合仓库、CRM 和账单数据,并且只把指标传给 agent。
  • 安全运营。 该 agent 使用自定义工具,在已批准的组内隔离设备。

你将获得:

  • 精确控制。 可为每个 provider 工具和每个自定义工具设置允许、询问或阻止。审批时会显示确切的调用及其参数,因此安全团队批准的是单次退款查询,而不是整个支付 API。参见 角色与权限。
  • 共享工具。 你可以将每个 provider 设置为使用调用者自己的账户,这样队友就能共享工具而无需共享 API token。了解 Slackbot 如何使用此功能。
  • 更便宜的模型,同样的准确度。 借助自定义工具,较小的模型能表现得像较大的模型。对许多任务而言,这意味着以 Haiku 5.5 的成本获得 Opus 5.5 的准确度。
  • 更快、更精简的 agent。 在 GitHub、Linear 和 Slack 上使用 Opus 5.5 完成 34 项任务时,自定义工具将 token 减少了 37%,成本降低了 31%,时间缩短了 29%。参见 每项任务。
  • 领先于其他 MCP 网关。 在 100 项企业任务的盲测中,使用 Coral 的 agent 比使用其他 MCP 网关更准确、成本更低。参见基准测试。
  • 属于你的训练数据。 每次运行都会留下目标、所用工具和结果的结构化轨迹。该轨迹非常适合用于对你自己的模型进行后训练。

Coral 如何融入你的技术栈:

  • 在你的基础设施上运行。 Coral 使用 Rust 编写。它可作为桌面应用运行在你的笔记本电脑上,也可作为共享服务器运行在你自己的云中,且零数据外泄。
  • 开源。 Coral 采用 Apache License 2.0 许可,对用户、agent 或用量均无限制。本 README 中除 Coral Enterprise 之外的所有内容均属于开源版本。
  • 任何 agent,任何系统。 Coral 可与任何支持 MCP 的 AI 应用或 agent 配合使用。你可以连接任何具有 MCP 服务器或 OpenAPI 文档的系统,包括 5,000 多个数据库和 SaaS 工具。

Coral 的工作原理

Agent 编写程序。 Coral 基于代码模式构建,并增加了自定义工具、策略控制和管理身份。要使用工具,agent 会编写一段简短的 TypeScript 程序。一个程序可以调用多个工具、过滤结果,并只返回任务所需的内容。通过模型上下文传递的原始数据更少。

Coral 在轨道上运行它们。 每个程序都在全新的 V8 隔离环境中运行,没有网络访问、没有凭据,也没有导入。Coral 会根据你的工作区策略检查每次工具调用,然后添加凭据并将调用转发给 provider。策略还可以要求由人工批准该调用。Coral 会将每次运行归属于发起它的个人或 agent。

graph LR
    Agent["Your agent"] -->|"exec: run a program"| MCP["Coral MCP server"]
    You["You"] -->|"providers, policy, approvals"| UI["Coral UI"]

    subgraph Coral["Coral (your laptop or server)"]
        MCP --> Run["Program runs in a V8 isolate"]
        Run <--> FN["Custom tools (private and shared)"]
        UI --> Gate["Policy check and credentials"]
        Run --> Gate
        Gate -.->|"approval request"| UI
    end

    Gate --> GH["GitHub"]
    Gate --> SL["Slack"]
    Gate --> Own["Your OpenAPI or MCP service"]

加载中

agent 通过 exec 工具发送 Coral 程序。程序会调用 coral.search 来查找 agent 可用的工具并读取其 TypeScript 签名。然后 agent 发送一个执行工作的程序。下面这个程序会找出没有审查者的开放拉取请求,并将它们发布到 Slack:

const { data: pulls } = await coral.providers.github.pulls.list({
    owner: "withcoral",
    repo: "coral",
    state: "open",
});

const unreviewed = pulls.filter((pull) => pull.requested_reviewers.length === 0);

await coral.providers.slack.chat.postMessage({
    channel: "#engineering",
    text: unreviewed.map((pull) => `#${pull.number} ${pull.title}`).join("\n"),
});

return unreviewed.map((pull) => pull.number);

如果发布到 Slack 需要审批,运行会在那里暂停,直到你批准。只有拉取请求编号会返回给 agent,而不是完整的 GitHub 响应。运行发生在 Coral 服务器上,因此即使 agent 断开连接,它也会继续。

有效的程序会成为自定义工具。当程序成功时,agent 会将其保存为私有工具。下次,agent 会一步调用它,如 coral.private.<name>({ ... })。Agent 在与提供商工具相同的搜索中找到自定义工具,并重用或编辑它们,而不是从头开始。工作区所有者可以将私有工具发布为 coral.shared 下的共享工具,这样工作区中的每个人都可以调用它。

要了解提供商、账户、策略和工作区,请阅读概念。

面向团队和企业

要为团队运行 Coral,请参阅运行共享服务器。

Coral Enterprise 即将推出,采用其自己的许可证。它增加了组织范围的治理和支持:使用 SAML 的 SSO、SCIM 配置、高级 RBAC、不可变审计日志和支持 SLA。请参阅Coral Enterprise或预约演示。

开发

要从检出运行 Coral,请遵循开发指南。要贡献,请阅读CONTRIBUTING.md。发行说明列出了每个版本中的更改。

社区

在我们的Slack 社区或GitHub issues中提问、分享想法并展示你构建的内容。

安全

不要在公开 issue 或拉取请求中报告安全问题。请参阅SECURITY.md。

Coral 已通过 ISO/IEC 27001:2022 认证。每个程序都在自己的 V8 isolate 中运行,Coral 会记录每次审批。

许可证

Coral 根据 Apache License 2.0 获得许可。请参阅LICENSE。

ee/目录包含 Enterprise Edition 代码,采用其自己的许可证ee/LICENSE。仓库根目录下的普通 cargo build 仅构建 Apache License 2.0 下的代码。NOTICE说明了哪个许可证涵盖哪些文件。

从 Coral 0.x 升级

Coral v1 用 TypeScript 程序取代了 SQL 接口。它从全新状态开始,不会转换 0.x 存储的内容。如果 Coral 发现 0.x 状态,它会在启动时告诉你。请参阅从 Coral 0.x 升级。

来源:Hacker News · github.com