跳到正文
NVIDIA Technical Blog· Mark Chmarny·· 2 小时前AI 评分22

NVIDIA DSX AI Factory 如何通过运行时 AI 清单验证 GPU 平台

Validating GPU Platforms with Runtime AI Inventory via the NVIDIA DSX AI Factory

AI 导读

NVIDIA DSX AI Factory 支持通过运行时 AI 清单验证 GPU 平台,解决仅靠部署配方无法确认各节点实际运行哪些工作负载的问题。当团队使用 NVIDIA Dynamo、Kubeflow 或 Slurm 部署和扩展 AI 工作负载时,应用团队会独立于平台配方更新工作负载,因此可复现的部署包本身不足以确定节点上运行的工作负载产物。

正文 · AI 翻译

当团队使用 NVIDIA Dynamo、Kubeflow 或 Slurm 部署和扩展 AI 工作负载时,要追踪实际运行的内容,所需的可见性超出了平台……

当团队使用 NVIDIA Dynamo、Kubeflow 或 Slurm 部署和扩展 AI 工作负载时,要追踪实际运行的内容,所需的可见性超出了 recipe 中记录的平台配置。应用团队独立于平台 recipe 定义和更新这些工作负载,因此仅凭可复现的部署包无法确定每个节点上运行的是哪些工作负载工件。

来源

来源:NVIDIA Technical Blog · developer.nvidia.com