AUMOVIO 如何用 Databricks Unity Gateway 集中管理 AI 访问
How AUMOVIO centralized AI access with Databricks Unity Gateway
AUMOVIO 通过 Databricks Unity Gateway 为 LLM 访问建立统一入口,将模型审批、访问策略、用量追踪和日志集中管理。其发布 1adp-* 模型别名目录,可把同一别名路由到 Databricks 托管模型、Google Vertex AI、Azure OpenAI 或 AWS Bedrock,切换供应商无需改动应用代码。
随着 AI 应用的普及,AUMOVIO 各团队开发了不同的方式来访问大语言模型。如今,Databricks Unity Gateway为我们的 AI 工作负载提供了统一入口。本文介绍我们如何将这些方式整合到一起。
挑战:跨多个提供商管理 AI 访问
AUMOVIO 各团队开发了不同的 LLM 访问方式,包括提供商集成以及为特定用例构建的网关。这些方式都解决了实际需求,但随着 AI 应用的普及,其多样性给运营、成本归因和一致性治理带来了复杂性。
主要的改进机会包括:
- 共享可见性。将模型使用情况集中到一处,以实现一致的报告。
- 成本透明度。将支出归因到用户、团队或用例。
- 简化运营。通过共享服务管理提供商更新、事件和支持。
- 一致性治理。通过统一方式实施模型审批、日志记录和防护措施。
综合来看,这些方式凸显了以单一 AI 网关解决方案管理 AI 工作负载的共享运营模式的价值
决策:一个集中式 AI 网关
AUMOVIO 的跨职能 AI 工作组汇集了来自安全、数据保护、业务领域和 IT 的利益相关者。该工作组决定采用一个集中式 AI Gateway 作为 LLM 访问和治理的共享路径,为公司范围内的模型访问确立了统一方向。
在此基础上,我们的任务是让这条集中路径对团队及其应用真正有用。
为什么我们选择 Databricks Unity Gateway

构建一个 AI 网关很简单,但将其作为企业服务来运营则是一项长期承诺:提供商 API 会变化,依赖项需要打补丁,安全要求不断演进,用户需要支持。一旦应用依赖它,网关就需要有路线图、值班轮换和支持流程。权衡自建与再购买一个 AI 网关之后,有五点理由决定了为什么 Databricks Unity Gateway 是我们的解决方案。
1. Databricks 已经是我们的数据平台。1ADP,即 One AUMOVIO 数据平台,运行在 Databricks 上。将模型访问放在受治理的企业数据旁边,意味着无需引入新供应商、无需审查新的网络路径,也无需运营孤立的堆栈。
2. 企业身份集成。Databricks 已与我们企业的 Microsoft Entra ID 租户集成,其他 AUMOVIO 应用也通过同一租户进行身份验证。应用出示其 Entra ID 令牌,通过令牌交换获得对 Unity Gateway 的访问权限,无需单独账户、无需分发 API 密钥,也无需定制集成。接入一个新的 AI 应用只需授予权限,而当企业身份失效时,对所有模型的访问也会自动终止。
3. 治理与使用追踪。 模型审批、访问策略、使用追踪和日志记录集中在一处,而不是每个应用各自重新实现。通过推理表进行的负载日志记录默认关闭,只有在有明确且经批准的正当理由时才会启用,这正是我们的数据保护协议所要求的状态。
4. 我们始终可以自由选择提供商。 这一点最为重要。我们发布一份精选的 1adp-* 模型别名目录,Unity Gateway 将每个别名路由到提供该模型的服务商:Databricks 托管的基础模型、Google Vertex AI、Azure OpenAI、AWS Bedrock 或其他。用户针对一个稳定的、厂商中立的名称编写代码,而我们可以将该名称重新指向不同的提供商或更新的模型,而无需任何使用方改动一行代码。这些别名为团队提供了一条通往已批准模型的一致路径。
5. 该设置采用基础设施即代码。 Terraform 表达了 Unity Gateway 为我们所做的一切:每个 1adp-* 别名背后的端点、每个模型路由到的提供商、提供商降级时的回退顺序、速率限制以及每个端点应用的防护措施。添加模型、重新指向别名或收紧安全控制都是一次拉取请求,经过审查、版本化,并可在各环境中复现。当生产环境出现异常时,我们的版本控制能解释导致问题的配置。由于我们以同样的方式配置 1ADP 的其余部分,对于已经运行该平台的工程师来说,Gateway 只是又一个模块。
Unity Gateway 如何帮助我们进行 AI 成本管理和模型访问
集中化模型访问是第一步。随后我们在 Unity Gateway 之上构建了三项能力,以支持我们团队管理、访问和使用 AI 的方式:
成本归属与分摊。 Unity Gateway 报告消耗了多少 token,每位用户将其消耗分配给个人成本中心或其参与的项目之一。流水线将该分配与 Databricks 系统表连接,并将使用费用计入正确的成本中心。我们将结果发布为仪表板:使用了哪些模型、由谁使用、消耗如何发展以及成本是多少。预算负责人可以查看其支出并识别消耗变化。
精选模型目录。 标准化访问并不能使模型可以互换。该目录是唯一可信来源,说明哪些模型已获批准、它们映射到什么以及它们在哪个消耗层级运行。团队仍然针对所选模型测试其应用,但他们不再需要构建基础设施来访问它。
面向员工的界面。 1ADP AI App 在生产环境中运行在同一个 gateway 上,为员工提供了一种受管控的 AI 使用方式,无需编写代码。 开发者可获得兼容 OpenAI 的端点,并能将兼容的智能体式 编码工具指向中央模型。 同一套基础设施, 面向两类受众: 我们 统一模型访问方式,同时让开发界面的选择保持开放。
目前取得的成果:集中式 AI 治理、成本可见性和开发者访问
Unity Gateway 为 LLM 访问提供了一条共享路径。 1adp-* 别名 将应用连接到模型, 防护措施集中生效, 使用量近乎实时地 归属到成本中心。
下一阶段将沿 AI 平台栈向上推进: 在 1ADP 项目内共享智能体, 并通过托管及 自带 MCP(Model Context Protocol)连接接入知识源、 网页搜索和其他工具。 模型访问保持 集中化; 变化的是智能体可触达的工具范围。 这引出了关于智能体可以检索什么、 可以调用哪些工具以及以谁的 权限行事的问题。 拥有一个统一的框架来回答这些问题,正是我们 最初进行整合的原因。
经验教训:自建还是购买企业 AI Gateway
如果你要将不同的模型访问方式整合起来, 请让安全、 数据保护、业务部门和 IT 参与运营模式的制定。 然后 让共享服务对预期使用它的团队真正有用。
在比较自建与购买时, 请按十年周期而非原型阶段来核算成本。 问问谁负责修补提供商集成、 谁负责回应支持工单、 谁 处理事故, 以及谁在明年再来做一遍。
然后决定哪些是真正应该由你自建的。 网关不是。 成本 归属、 模型目录和面向员工的 AI App 是, 因为它们 体现了 AUMOVIO 的运作方式,没有供应商会把这些交给我们。
我们仍对我们的架构、 安全决策和 应用质量负责。Unity Gateway 提供共享的模型 访问服务, 而各团队可以继续选择他们要构建的应用。
常见问题
AUMOVIO 为什么选择 Databricks Unity Gateway,而不是自建 AI 网关?
AUMOVIO 选择 Databricks Unity Gateway,是为了集中管理 AI 模型访问,同时避免自建网关带来的持续维护、安全更新和运营开销。由于 Databricks 已经支撑其企业数据平台,AUMOVIO 可以复用现有基础设施、Microsoft Entra ID 集成和治理控制。这使其团队能够专注于构建公司特有的能力,例如成本归属、精选模型目录和面向员工的 AI 应用。
企业如何集中治理跨多个提供商的 AI 模型访问?
Databricks Unity Gateway 提供了一个单一且受治理的入口点,用于访问跨提供商的 AI 模型,例如 Azure OpenAI、Google Vertex AI、AWS Bedrock 以及 Databricks 托管的模型。AUMOVIO 使用集中式模型审批、访问策略、日志记录和护栏,以在应用程序之间实施一致的治理。其精选的模型别名还允许管理员更改底层模型或提供商,而无需更改应用程序代码。
Databricks Unity Gateway 如何帮助企业跟踪和分配 AI 成本?
Unity Gateway 提供令牌使用数据,企业可以使用这些数据来跟踪跨模型和用户的 AI 消耗。AUMOVIO 将这些来自 Databricks 系统表的数据与项目和成本中心分配相结合,将 AI 支出归因于相应的业务负责人。仪表板提供对模型使用情况、消耗趋势和成本的近乎实时可见性,支持内部计费回扣和预算监督。
企业如何让开发者访问多个 AI 模型而无需管理单独的 API 密钥?
Databricks Unity Gateway 通过 OpenAI 兼容端点提供集中式模型访问,减少了开发者管理单独提供商集成的需要。在 AUMOVIO,应用程序通过 Microsoft Entra ID 令牌交换进行身份验证,消除了分发单独 API 密钥的需要。开发者可以通过兼容的编码代理和应用程序使用已批准的模型,而 IT 则集中管理权限和提供商连接。
使用集中式 AI 网关为企业 AI 应用程序和代理带来哪些好处?
集中式 AI 网关简化了对多个模型的访问,同时将治理、成本可见性和运营管理整合到一个共享服务中。AUMOVIO 使用 Unity Gateway 通过相同的基础设施支持面向员工的 AI 应用程序和开发者工具。其下一阶段将把这种方法扩展到共享 AI 代理和 MCP 连接,重点关注治理工具访问和权限。
来源:Databricks Blog · databricks.com