公共部门机构如何规模化治理 AI
How public sector organizations can govern AI at scale
Databricks 介绍公共部门机构借助 Unity Gateway 在规模化采用 AI 前先解决治理问题:组织可控制哪些 AI 模型、编码智能体、MCP 和 AI 工具对谁可用,并按用户、团队或用例设置支出上限,每次请求都可追踪归因。Smart Routing 会把任务导向更具成本效益的模型,平台级合规策略统一适用于所有 AI 交互。
如今,每位政府首席信息官都肩负着同样的使命:采用 AI,加快步伐,以更少资源做更多事。编码助手正在提升开发团队的生产力。利用大语言模型的智能体正在开辟服务公民的新方式。而那些不在 AI 上采取行动的组织则面临落后的风险。
但公共部门组织所处的现实与商业企业不同。在调用任何一个 AI 模型或智能体之前,必须有人回答一系列大多数 AI 工具或推理服务商在设计时并未考虑的问题。这并不是说公共部门组织采用技术缓慢,而是风险性质不同。这些组织处理公民数据、国防信息、执法记录和公共资金。随之而来的治理要求并非可有可无。
直到最近,满足这些要求意味着对 AI 说不,或者至少说“还不行”。现有工具无法为治理、预算和合规团队提供说“可以”所需的条件。
这种情况正在开始改变。
公共部门 AI 项目为何停滞
实际情况是这样的。某公共部门组织的数字服务团队开始使用第三方编码智能体(如 Codex 和 Claude Code)来帮助开发者更快工作。开发者很喜欢它们,但随之而来的是治理问题:谁有权访问哪些模型?为什么 AI 支出增长如此之快?
合规团队询问数据流向何处。结果发现,第三方编码智能体平台正在将请求路由到另一个国家的基础设施。对于处理敏感运营数据的组织来说,这是个问题。
预算办公室询问成本。没有人能说清这些工具花了多少钱,或者哪些团队在推动支出。响应速度慢,而且因为请求经过从未针对该用例优化的基础设施,不必要的 token 正在被消耗。
结果可想而知:合规团队无法批准,预算办公室无法规划,AI 项目陷入停滞。不是因为团队不需要 AI,而是因为没有人能回答基本的治理问题。
这种模式在各机构和地区反复出现。具体法规各不相同,无论是 GDPR、FedRAMP 还是国家主权框架,但底层逻辑是一样的。团队想使用 AI。治理团队想说“可以”。但夹在中间的工具无法满足任何一方的需求。
集中式 AI 治理如何推动公共部门团队前进
在 AI 上取得真正进展的公共部门组织有一个共同特征:他们在扩大采用之前先解决了治理问题。他们没有绕过治理问题,而是找到了一种集中回答这些问题的方法,这样每个团队就不必各自摸索。
这就是 Unity Gateway 在 Databricks 中扮演的角色。
没有单一模型能适合所有任务,因此机构需要选择。
- 一个全天候回答许可和税务问题的公民服务助手需要处理多语言的高并发请求,因此它需要一个响应迅速且每次请求成本低廉的模型。
- 一个负责追踪福利申领中欺诈模式的欺诈调查部门,需要一个能够对复杂证据进行推理的模型,而该模型只能运行在数据被允许进入的环境中。
- 一个从扫描的法律文件中提取细节的档案部门,需要一个不仅能阅读文本、还能阅读文档和图像的模型。
- 某个关键机构的应用建立在过时的代码库之上,因此更新它需要一个擅长复杂编码任务的前沿模型。
为这三项工作只选择一个模型,该机构要么为常规问题支付过高成本,要么无法满足其最严苛工作的需求。治理必须为每项任务留出选用合适模型的空间,同时将数据、用户和预算控制在可控范围内。
Unity Gateway 为治理和预算团队带来的价值很直接。组织可以控制哪些 AI 模型、编码代理、MCP 和 AI 工具可用,以及可供谁使用。团队从第一天起就能访问最新的前沿模型和开源模型,而管理员则决定启用哪些模型以及谁可以使用它们。新模型不会默认对所有用户开放。
例如,在某税务机构中,这意味着调查部门可以在纳税人记录上使用 AI,而访问权限仍仅限于获授权处理这些案件的调查人员。支出限额和硬性上限可以按用户、团队或用例设置,并且每个请求都可被追踪和归属。合规策略(包括内容防护栏和访问控制)在平台层面适用于每一次 AI 交互,无论是由哪个团队或应用发起的。
除了设置支出限额外,Unity Gateway 还通过 智能路由 帮助组织降低 AI 成本,该功能在保持质量的同时将任务导向更具成本效益的模型。对于在固定预算下实现遗留系统现代化的机构而言,这意味着常规编码任务会交给成本更低的模型,从而在不拖慢开发人员的前提下进一步延长预算的使用。
对于有严格数据驻留要求的组织,治理还必须涵盖 AI 请求的处理地点。例如,一个将 AI 应用于患者记录的国家医疗服务机构,必须能够向监管机构说明这些数据流向何处。Databricks 按地理区域管理其托管基础模型的数据驻留,账户管理员可以要求这些请求在其工作区所在的地理区域内处理。合规团队可以获得关于这些请求处理地点的清晰、有据可查的答案。
而且,由于 Unity Gateway 支持来自多个提供商的模型、开源模型和外部端点,团队不会被锁定在单一供应商上。他们可以为每项任务使用最佳模型,同时治理团队仍保留完整的可见性。
当公共部门机构集中管理 AI 治理时会发生什么
当组织将其 AI 工作负载迁移到 Unity Gateway 时,此前阻碍采用的局面就会逆转。开发人员可以通过 Databricks 的基础设施访问他们想要的模型,而无需每个团队自行治理。治理团队则能获得跨模型、代理和工具的 AI 活动单一视图,并配有统一追踪记录,捕获请求、token 用量、成本和工具活动。
对福利机构而言,这意味着领导者可以看到用于处理申请的 AI 工具正被大量使用且成本合理,因此他们可以将这些工具扩展到更多个案工作者,更快地把福利送到人们手中。
曾经阻碍 AI 采用的治理要求,如今成为使其成为可能的统一基础。当合规团队确信 AI 使用情况可见且受管理,预算办公室能清楚看到支出流向时,对 AI 说“是”就变得容易得多。
为什么这在当下至关重要
世界各国政府正在投资 AI,同时收紧数据保护和主权要求。从公民服务到国家安全,行动最快的机构将是那些能够为每项任务匹配正确模型、并配备正确控制措施的机构。
Unity Gateway 正是 Databricks 帮助公共部门组织实现这一目标的方式。它从机构现状出发,在现有数据治理的基础上叠加 AI 治理。无需并行系统。无需多年实施。只需公共部门领导者向前推进所需的控制措施。
了解更多
想了解更多?
- 在 LinkedIn 上关注 Databricks for Public Sector
- 访问 Unity Gateway 网页
常见问题
我们需要新的基础设施吗?
不需要。Unity Gateway 内置于 Databricks 中,使组织能够集中管理 AI 访问、安全性和成本,而无需部署或维护单独的 AI 网关或 AI 治理解决方案。
我们能控制团队使用哪些模型吗?
可以。Unity Gateway 提供对最新 AI 模型的零日访问,同时管理员可以控制启用哪些模型以及谁可以使用它们。组织可以批准模型并按用户、组或团队管理访问权限,使团队能够采用新的 AI 能力而不损害治理。
我们能设置支出限额吗?
可以。可以按用户、团队或用例设置预算和硬性支出上限。每个请求都会被跟踪。
这能支持多个模型提供商吗?
可以。Unity Gateway 支持来自多个前沿模型提供商的模型、开源模型和外部端点。
我们能将 AI 处理保留在我们的地理区域内吗?
可以。账户管理员可以要求对 Databricks 托管基础模型的请求在其工作区所在的地理区域内处理。如果某个模型在该地理区域不可用,管理员可以选择允许在其他地方处理。
来源:Databricks Blog · databricks.com