跳到正文
RadarAI· LangChain:Blog(RSS)·· 6 小时前AI 评分52

LangSmith BYOC 登陆 AWS、Azure 和 Google Cloud

LangSmith BYOC 现已登陆 AWS、Azure 和 Google Cloud

AI 导读

LangChain 宣布 LangSmith 的 Bring Your Own Cloud(BYOC)已在 AWS 正式可用,并在 Azure 和 Google Cloud 进入 Beta。

正文 · AI 翻译

LangChain:博客·2026-11-04 06:06· 4 小时前AI 评分43

LangSmith BYOC 现已在 AWS、Azure 和 Google Cloud 上可用

AI 导读

LangSmith 的 Bring Your Own Cloud(BYOC)现已在 AWS 正式可用,并在 Azure 和 Google Cloud 上进入 Beta。

正文 · 原文

LangSmith Bring Your Own Cloud (BYOC) 现已在 AWS(正式可用)、Azure(Beta)和 Google Cloud(Beta)上运行。你的 traces、evals、datasets、prompts 和 agent 部署都保留在你自己的云账户中、位于你选择的云上,而 LangChain 为你管理数据平面,从编排、扩缩容到平台更新。

BYOC 如何拆分 LangSmith

你可以决定 agent 在哪里运行、遥测数据存放在哪里,而无需自己承担运行 LangSmith 的工作。为此,BYOC 将 LangSmith 拆分为两部分。LangChain 运行控制平面,其中包含认证、组织与工作区配置、计费元数据、哈希后的 API 密钥以及静态 UI 资源。你拥有数据平面,其中包含所有敏感内容,从 traces、prompts、datasets 到实验、agent 部署和工作区密钥。

‍

一个组织可以拥有多个数据平面,每个数据平面位于其特定的账户和区域,且每个数据平面包含其工作区。这样你就可以按区域、环境或业务单元拆分数据平面。

例如,一个平台团队可能会在独立的 AWS 账户中运行生产与预发布数据平面,而一个以 Azure 为标准化的业务单元则在 Azure 上运行自己独立的 BYOC 部署。每个团队的 traces 都会落在该团队拥有的账户中。

我们为什么构建 BYOC

在此之前,有严格合规边界的团队会部署并维护自托管的 LangSmith。这使他们的数据留在自己的边界内,但需要专门的平台工程师来修补有状态服务、配置数据库并执行 schema 迁移。

借助 BYOC,LangChain 在你自己的虚拟网络中预置并运营 LangSmith。设想一个在多个环境中运行 agent 应用的团队。使用自托管时,执行组件的每次更新都意味着要在每个环境中协调停机时间并管理自定义 Helm 发布。使用 BYOC 时,数据平面中的数据留在你的 VPC 中,而 LangChain 负责扩缩容、schema 更新和运行时依赖。

AWS 客户看到了什么

自我们于 8 月在 AWS 上推出 BYOC 以来,许多团队选择用 BYOC 在自己的云中运行 LangSmith。他们指出了三大主要收益:

  • 持续升级。LangChain 负责推出平台更新,因此团队不再需要规划维护窗口或管理 Helm 升级。
  • 最新的 LangSmith 功能。新功能在 LangSmith Cloud 上线后不久即可到达 BYOC 数据平面,无需等待下一次自托管版本发布。
  • 自动扩缩容。服务随负载扩缩容,因此团队可以获得稳定的正常运行时间,并在使用量增长时保持流畅体验。

正是这种需求促使我们迅速将 BYOC 带到 Azure 和 Google Cloud,让团队无论运行在哪个云上,都能获得同样的体验。

BYOC 在各云上的形态

每个云都有自己的网络策略、身份模型和安全要求,因此 BYOC 由各云自身的构建模块构成。在全部三个云上,BYOC 数据平面还会运行 Managed Deep Agents 端点。

Azure:BYOC 在专用虚拟网络中运行数据平面,并配有私有 AKS API 端点。我们使用 Helm 部署 Istio 和 KEDA,用于入口路由和事件驱动扩缩容,系统遥测数据发送至 Azure Monitor。Azure 上对 LangSmith Sandboxes 的支持即将推出。

LangSmith Data Planes settings page listing two Azure BYOC data planes

Google Cloud:发布时,Google Cloud 数据平面可在任意区域运行,并由 LangSmith 的美国控制平面管理。资源使用命名空间范围内的名称,因此不会与您现有的基础设施冲突。

AWS:BYOC 在您现有的 VPC 内运行,数据库位于您选择的子网中。安全团队可以为每个应用角色附加自己的安全组,因此数据平面符合您现有的入口和出口检查策略。

从自托管迁移,无需从头开始

自托管 LangSmith 让您完全掌控数据所在位置,但需要大量维护开销。BYOC 将数据保留在您的账户中,同时由我们运行基础设施,并且您可以携带现有的自托管数据一起迁移。

迁移分为两部分。您的工作区资源通过我们的开源迁移工具迁移,该工具从您的自托管实例读取数据,并在迁移期间保持其原样且在线。在所有云上,它涵盖用户和角色、数据集、实验和提示词。它还会迁移标注队列配置、自动化规则、仪表板和 Fleet 资源。

您的追踪、运行和反馈作为单独步骤迁移,由 LangChain 使用内部工具为您执行。追踪迁移目前已在 AWS 上可用。

开源与公开 Terraform

LangChain 和 LangGraph 是开源的。BYOC 背后的 Terraform 模块公开在 github.com/langchain-ai/terraform,迁移工具也是如此。您数据平面上的 LLM Gateway 开箱即用即可调用来自 11 家提供商的模型,以及任何 OpenAI 或 Anthropic 兼容端点,因此您既可以自行选择其背后的模型提供商,也可以选择云平台。

开始使用

联系销售以在 AWS、Azure 或 Google Cloud 上配置 BYOC 数据平面。文档涵盖架构、责任共担模型、迁移、使用以及常见问题中的常见疑问,API 参考中提供了 Create Data Plane API。

来源:LangChain:Blog · langchain.com

来源:RadarAI · aihot.news