跳到正文
NVIDIA Newsroom· Shruti Koparkar·· 1 天前精选AI 评分72

NVIDIA Vera Rubin 首次亮相 MLPerf,训练与 Endpoints 双榜领先

NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance

AI 导读

NVIDIA Vera Rubin 平台在首次 MLPerf 基准测试中拿下 Training v6.1 全部基准,并在首次 Endpoints 提交中实现智能体 AI 每瓦吞吐超过 10 代际提升。

推荐理由

Vera Rubin 首次亮相 MLPerf 就给出与 GB300 的逐项对比,可据此判断下一代平台在训练与智能体推理上的代际跨度。

正文 · AI 翻译

在其 MLPerf 基准测试首秀中,今日公布的结果显示,NVIDIA Vera Rubin 平台在训练、后训练和智能体推理方面均提供领先性能。 

NVIDIA 横扫了所有 MLPerf Training v6.1 基准测试,并在其首次 MLPerf Endpoints 提交中,为智能体 AI 实现了每瓦吞吐量超过 10 倍的代际提升——该指标衡量系统每消耗一瓦电力所能交付的智能体工作量。 

这些结果只是开始。通过持续优化 NVIDIA 的 CUDA 驱动的软件栈,Vera Rubin 的性能将持续攀升,因此客户今天投资的基础设施将随时间推移带来更多价值。

AI 智能体现已无处不在,它们编写代码、运行业务工作流、回答客户问题,并且正如本周 SC26 大会亮点 所示,还在推动科学研究进步。 

更快的训练意味着更智能的智能体能更快触达用户,药物发现模型能跟上新的实验室数据,欺诈检测模型能更快适应新威胁。

MLPerf Training 衡量系统将一系列 AI 模型训练至目标精度水平的速度。 

NVIDIA 平台是本轮唯一在所有基准测试上都有结果的平台,涵盖大语言模型、图像生成、推荐系统和强化学习后训练。在首秀中,Vera Rubin NVL72 每 GPU 性能最高达到高度优化的 NVIDIA GB300 NVL72 系统的 2 倍——这些早期结果展示了代际创新的步伐。 

MLPerfTraining v6.1 结果于 2026 年 11 月 16 日从 www.mlcommons.org 检索,来自以下条目:6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129 和 6.1-0038。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家的商标。保留所有权利。严禁未经授权使用。更多信息请参见 www.mlcommons.org。

NVIDIA 还展示了规模化性能。在 DeepSeek-V3 基准测试中,Vera Rubin NVL72 从 256 个 GPU 扩展到 1,024 个 GPU,效率约为 97%:GPU 数量增至四倍,训练时间从 16 分钟缩短至约 4 分钟。 

NVIDIA 还在使用 GB300 系统的 10,240 个 GPU 上运行了该基准测试,这是本轮最大规模。Microsoft Azure 使用 GB200 系统的 10,240 个 NVIDIA GPU 达到了相同规模。 

这一规模下的结果很重要,因为只有当 GPU 能够高效协同工作时,增加 GPU 才能加速训练。NVIDIA NVLink 纵向扩展网络连接每个系统内的 GPU,使其作为一个整体运行;而 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X Ethernet 横向扩展网络则将这些系统跨数据中心连接起来。结合优化的软件,这使数千个 GPU 协同工作,帮助开发者构建更智能的模型,同时缩短训练时间。

NVIDIA Vera Rubin 在 MLPerf Endpoints 上引领智能体推理

一个规划并预订整个行程的旅行 AI 智能体——或一个在任何人提交工单之前就发现并修复问题的 IT 智能体——可能需要多次推理、调用工具并检查其工作,才能完成单个任务。 

上述每一步都会生成 token。由于 AI 数据中心受电力限制,系统每瓦电力每秒能生成的 token 越多,它就能服务更多 agent,创造更多价值。 

MLPerf Endpoints 在真实的 agentic 编码和企业工作流上测试系统,并检查 agent 是否仍能正确完成任务。NVIDIA Vera Rubin 在其所有 agentic 基准测试中均领先。

例如,在为 agentic 工作流构建的大型开放模型 Kimi K3 的临时结果中,在相同响应速度下,Vera Rubin NVL72 系统每瓦吞吐量超过 NVIDIA GB300 NVL72 的 10 倍。 

MLPerf® Endpoints v1.0,Kimi K3,Standardized division,Available category,发布于 2026 年 11 月 9 日。NVIDIA Vera Rubin NVL72,32 个加速器,结果 1.0.1.kimi-k3.agentic_combined.1p,运行 9:并发 = 1,024 个查询,TTFT P90 = 4,673.9 ms,系统 TPS= 41,414.2 tokens/sec,端到端平均交互性 = 每用户 50.4 tokens/sec,运行功率 = 100.89 kW。NVIDIA GB300 NVL72,48 个加速器,结果 1.0.0.kimi-k3.agentic_combined.1,运行 6:并发 = 48 个查询,TTFT P90 = 2,305.1 ms,系统 TPS= 2,210.4 tokens/sec,端到端平均交互性 = 每用户 56.2 tokens/sec,运行功率 = 60 kW。比较基于在每用户 50 tokens/sec 的共同最低端到端平均交互性下的每千瓦吞吐量。于 2026 年 11 月 9 日从 endpoints.mlcommons.org 检索。GB300 结果已由 MLCommons Association 验证。对于 Vera Rubin 的临时结果:尚待 MLCommons Association 验证,结果可能会在同行评审后发生变化。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家的注册商标和非注册商标。保留所有权利。严禁未经授权使用。更多信息请参见 www.mlcommons.org。

每个 AI 服务都必须在同时服务大量用户与快速响应每个用户之间取得平衡。Vera Rubin 改变了整条曲线,在响应更快的同时服务更多用户。 

在基准测试和工作负载中全面领先

NVIDIA 合作伙伴广泛参与了 MLPerf Training,共有 20 个组织提交了结果: ASUS、Azure、Cisco、CoreWeave、Crusoe、Dell Technologies、Firmus、Fujitsu、Giga Computing、Google Cloud、HPE、Inventec、Krai、Lambda、Nebius、Oracle、Quanta Cloud Technology (QCT)、Supermicro、TTA 以及 University of Florida。 

他们的提交结果表明,NVIDIA 的可编程平台凭借开源库和框架,让庞大的合作伙伴生态系统能够创新并优化 AI 训练性能。

领先优势不止于 MLPerf。 

Vera Rubin 还在 SemiAnalysis AgentX 和 Artificial Analysis AgentPerf 等独立基准测试中提供领先性能,展示了同一套 NVIDIA 基础设施如何高效运行从预训练、后训练到 agentic 推理的一切工作,以及 AI 之外的工作负载,例如本周在 SC26 上展示的高性能计算。 

深入了解 MLPerf Training 和 MLPerf Endpoints 技术博客中的结果。

来源:NVIDIA Newsroom · blogs.nvidia.com