NVIDIA Technical Blog· Elizabeth Goodman·· 3 小时前AI 评分30
NVIDIA CUDA 13.4 如何在 Kubernetes 中实现内存强制的 GPU 共享
Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4
AI 导读
NVIDIA CUDA 13.4 支持在 Kubernetes 中对 GPU 进行内存强制隔离的共享，让多个 AI 工作负载共用同一块 GPU。NVIDIA GPU 已支持多种共享方式，其中 MIG 可将 GPU 拆分为对应用透明的硬件隔离实例。该能力面向平台团队，用现有基础设施承载更多工作负载。
正文 · AI 翻译
许多 AI 工作负载只需要一小部分 GPU。给每个工作负载分配一整块设备会造成容量闲置；共享 GPU 能让平台团队利用现有基础设施服务更多工作负载……
许多 AI 工作负载只需要一小部分 GPU。给每个工作负载分配一整块设备会造成容量闲置；共享 GPU 能让平台团队利用现有基础设施服务更多工作负载。NVIDIA GPU 已支持多种共享方式。多实例 GPU（MIG）将一块 GPU 拆分为对应用透明的硬件隔离实例……
来源：NVIDIA Technical Blog · developer.nvidia.com