Databricks AI Runtime 正式可用，联手 NVIDIA 简化开源模型企业数据定制

Databricks：Blog·2026-10-21 19:30· 2 小时前AI 评分48

Databricks AI Runtime 与 NVIDIA 让使用企业数据定制开放模型变得更加容易

AI 导读

Databricks AI Runtime 在 GTC Berlin 上宣布正式可用，开发者可在无服务器 NVIDIA GPU 上使用 NVIDIA NeMo、NGC 容器和 Nemotron cookbooks 训练与微调开源模型。

正文 · 原文

GPU 为当今最先进的 AI 工作负载提供算力，从尖端语言模型到多模态 AI 系统和智能体。越来越多的企业正在将开放模型适配到自身数据和业务需求上。但获得 GPU 访问权限只是挑战的一部分。团队还需要配置训练任务、治理数据访问并管理 GPU 基础设施，留给试验模型和评估其是否满足业务需求的时间就更少了。

Databricks 与 NVIDIA 提供了一条从企业数据到定制 AI 模型的无缝路径，从微调较小模型到大规模分布式训练。通过 Unity Gateway，Databricks 为开发者提供对前沿模型和开源模型的受治理访问。对于需要定制模型的团队，AI Runtime（AIR）将 NVIDIA 的 AI 软件生态和无服务器 GPU 引入企业数据。团队可以在 AIR 上试验、微调和评估模型，然后通过 Databricks Model Serving 将其部署用于实时推理——这一切都在 Databricks 平台内完成，需要管理的基础设施和治理工作更少。

今天在 GTC Berlin 上，Databricks 与 NVIDIA 正在扩大合作，让企业更轻松地定制开放模型。Databricks AIR 现已正式可用：开发者可以使用 NVIDIA NeMo、NGC 容器和新的 Nemotron cookbooks 在无服务器 NVIDIA GPU 上训练和微调开放模型。这些能力共同为团队提供了更大的灵活性，可将模型适配到业务特定任务，并将其用于应用和智能体。

AI Runtime 解锁了传统上机器学习工程师难以企及的企业数据上的模型训练和强化学习。借助 AI Runtime 和 NVIDIA 的 AI 软件生态，团队可以针对其定制用例和业务背景，对 Nemotron 等开放权重模型进行专门化。凭借受治理的数据访问、大规模训练的易用性以及用于自动调试的 Genie Code，AI Runtime 将加速定制模型在企业中的兴起。—Hanlin Tang，Databricks 神经网络 CTO

智能体只有在扎根于企业实际运作方式——其数据、工作流和专业知识——时才能发挥最大价值。NVIDIA 与 Databricks 正将 Nemotron 和 Kumo 等开放模型直接引入受治理的企业数据，为团队提供模型、工具和加速计算能力，以构建能够基于公司知识进行推理、预测下一步并采取行动的专用智能体。—Pat Lee，NVIDIA 战略合作副总裁

使用 AI Runtime 更快地训练和微调

AIR 提供无服务器的 NVIDIA GPU 用于训练和微调，因此开发者可以大规模运行现有代码和容器，而无需管理 GPU 基础设施。借助对多节点分布式训练的支持，团队可以跨 GPU 节点扩展更大规模的工作负载。NVIDIA Quantum InfiniBand 通过远程直接内存访问（RDMA）提供高带宽、低延迟的网络，而 NVIDIA 集合通信库（NCCL）负责处理 GPU 之间的通信。Databricks 负责管理底层集群和网络。

例如，一家构建技术支持智能体的企业可以先从 NVIDIA Nemotron 开放模型入手，在 AIR 上使用 NVIDIA NeMo 基于已标注的支持工单对其进行微调。团队可以尝试不同的训练方法，并使用 MLflow 跟踪结果，同时让模型适配其特定的支持工作流。

开发者可以准备 Lakehouse 数据，并在由 GPU 驱动的笔记本中或通过 AIR CLI 进行实验，使用高性能数据加载以及包含 PyTorch 和 CUDA 的标准环境。他们可以使用分布式训练框架，或自带库和自定义训练循环。

当实验准备好进行可重复执行时，Lakeflow Jobs 可以将训练与上游数据准备和下游评估一起编排，将单次运行转变为可重复的工作流。Declarative Automation Bundles 支持用于部署和更新这些工作流的 CI/CD。

MLflow 跟踪训练实验和 GPU 利用率，帮助团队比较模型结果和计算性能。Unity Catalog 管理对训练数据的访问，原生系统表提供对 CPU 和 GPU 使用情况的可视化。通过这些集成，团队可以使用他们在 Databricks 中已经依赖的数据、治理和运维工具。

使用 NVIDIA AI 软件加速工作负载

训练和微调深度学习模型不仅需要 GPU 算力，团队还需要在框架、库和环境方面具备灵活性。AIR 现在支持 Docker 和私有注册表，允许开发者将自定义容器化环境引入其 GPU 工作负载。

开发者可以使用来自 NVIDIA NGC Catalog 的 GPU 优化容器，并结合 Databricks Artifact Registry 将 NVIDIA 软件引入 AIR。环境缓存有助于这些工作负载快速启动，减少团队在迭代训练代码和重新运行实验时的设置开销。

开发者还可以安装 NVIDIA 性能分析工具来检查 GPU 执行情况并调查性能瓶颈。结合 MLflow 中跟踪的 GPU 利用率指标，这些工具有助于团队了解训练工作负载的时间花在哪里，并找出提升性能的机会。团队可以调优其软件和训练代码，而 AIR 负责管理底层 GPU 基础设施。

AIR 支持超越 LLM 的定制化，包括针对 NVIDIA Kumo Anomaly 的经过验证的微调工作流，这是一个用于时间序列异常检测的开放研究模型，支持 MLflow 跟踪和 Unity Catalog 检查点。这支持了 NVIDIA 的 Agent Knowledge Foundation 构建代理知识层的愿景。将 Kumo-Anomaly 与 Genie Ontology 配对，为上下文感知代理提供了一条路径，将时间序列数据中的异常模式与业务含义联系起来，以帮助指导下一步行动。

定制并服务 Nemotron 模型

随着 Nemotron 3.5 Lightning 和 Super VL 的发布，Databricks 客户可以从第一天起在 Databricks 上加载、试验、适配并服务这些模型。

AIR 支持使用 NVIDIA NeMo 和 NeMo Automodel 进行模型定制，使团队能够在无服务器 NVIDIA GPU 上使用 NVIDIA 的工具和框架。在技术支持代理示例中，这意味着开发者可以使用这些工具在历史支持工单上微调 Nemotron，帮助模型更好地理解公司特定的产品、术语和故障排除工作流。训练始终与 Databricks 中的企业数据和工作流保持连接。

Genie Code 还可以帮助开发者直接在笔记本中编写和调整训练脚本。开发者可以描述他们需要的更改，请求帮助配置微调运行，并在出现错误时进行处理。他们可以在无服务器 NVIDIA GPU 上运行之前审查和完善建议的代码。

对于微调，AIR 将优化的数据加载、检查点和训练与集成的可观测性和调试工具相结合。开发者可以在 MLflow 中跟踪实验和 GPU 指标，并使用 Genie Code 来：

调试模型代码并调查训练错误。
识别 GPU 性能瓶颈，包括内存问题和通信开销。
应用 NVIDIA 关于 CUDA、cuDNN、NCCL 和性能分析工具的特定指导。

在微调和评估之后，团队可以通过 Databricks Model Serving 将定制模型部署到生产环境。在我们的技术支持示例中，微调后的 Nemotron 模型可以为代理提供支持，该代理可以解释传入的支持请求，并根据公司产品和故障排除工作流生成响应。这完成了从无服务器 NVIDIA GPU 上的模型定制到实时推理的工作流。

开始使用 Databricks AI Runtime 和 NVIDIA

要了解更多信息，请访问我们的网页、AIR 文档，并探索 Nemotron 3.5 SuperVL 和 Nemotron 3.5 Lightning cookbook，以开始在 Databricks 上进行 GPU 训练和微调。

来源：Databricks：Blog · databricks.com