跳到正文
RadarAI· NVIDIA Blog(RSS)·· 1 天前AI 评分62

NVIDIA Vera Rubin 首战 MLPerf,横扫 Training v6.1 并领先 Endpoints

NVIDIA Vera Rubin 首次参战 MLPerf,横扫 Training v6.1 并领先 Endpoints

AI 导读

NVIDIA Vera Rubin 平台首次参加 MLPerf 基准测试,横扫全部 MLPerf Training v6.1 基准,并在首次提交的 MLPerf Endpoints 智能体推理测试中领先。

正文 · AI 翻译

NVIDIA 博客· Shruti Koparkar·2026-11-17 00:00· 2 小时前AI 评分51

NVIDIA 在 MLPerf 训练与端点测试中全面领先,Vera Rubin 首秀即展现领先性能

AI 导读

NVIDIA Vera Rubin 平台在 MLPerf 首秀中横扫全部 MLPerf Training v6.1 基准,并在首次提交的 MLPerf Endpoints 智能体推理测试中领先。

正文 · 原文

在 MLPerf 基准首秀中,随着今日结果公布,NVIDIA Vera Rubin 平台在训练、后训练和智能体推理方面均展现出领先性能。 

NVIDIA 横扫了全部 MLPerf Training v6.1 基准,并在首次 MLPerf Endpoints 提交中,为智能体 AI 带来超过 10 倍的代际每瓦吞吐量提升——该指标衡量系统每消耗一瓦电力所能完成的智能体工作量。 

这些结果只是开始。通过持续优化 NVIDIA 的 CUDA 驱动的软件栈,Vera Rubin 的性能将持续攀升,因此客户今天投资的基础设施将随时间推移带来更多价值。

NVIDIA 横扫 MLPerf Training v6.1

如今 AI 智能体无处不在,它们编写代码、运行业务流程、回答客户问题,并且正如本周 SC26 大会亮点所示,还在推动科学研究。 

更快的训练意味着更智能的智能体可以更快触达用户,药物发现模型可以跟上新的实验室数据,欺诈检测模型可以更快适应新威胁。

MLPerf Training 衡量系统将一系列 AI 模型训练至目标精度水平的速度。 

NVIDIA 平台是本轮唯一在所有基准上都有结果的平台,涵盖大语言模型、图像生成、推荐系统和强化学习后训练。Vera Rubin NVL72 在首秀中,每 GPU 性能最高达到经过高度优化的 NVIDIA GB300 NVL72 系统的 2 倍——这些早期结果表明了代际创新的步伐。 

MLPerfTraining v6.1 结果于 2026 年 11 月 16 日从 www.mlcommons.org 检索,来自以下条目:6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129 和 6.1-0038。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家的商标。保留所有权利。严禁未经授权使用。更多信息请参见 www.mlcommons.org。

NVIDIA 还展示了规模化性能。在 DeepSeek-V3 基准上,Vera Rubin NVL72 从 256 个 GPU 扩展到 1,024 个 GPU,效率约为 97%:GPU 数量增至四倍,训练时间从 16 分钟缩短至约 4 分钟。 

NVIDIA 还在 10,240 个 GPU 上使用 GB300 系统运行了该基准,这是本轮最大规模。Microsoft Azure 使用 GB200 系统以 10,240 个 NVIDIA GPU 达到了相同规模。 

这一规模下的结果之所以重要,是因为只有当 GPU 能够高效协同工作时,增加 GPU 才能加快训练速度。NVIDIA NVLink 纵向扩展网络将每个系统内的 GPU 连接起来,使它们作为一个整体运行;而 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X 以太网横向扩展网络则将这些系统跨数据中心连接起来。结合优化后的软件,这能让数千块 GPU 协同工作,帮助开发者构建更智能的模型,同时缩短训练时间。

NVIDIA Vera Rubin 在 MLPerf Endpoints 上引领智能体推理

一个用于旅行的 AI 智能体可以规划并预订整个行程——或者一个 IT 智能体可以在任何人提交工单之前发现并修复问题——它可能需要多次推理、调用工具并检查自己的工作,才能完成一项任务。 

上述每一步都会生成 token。由于 AI 数据中心受功耗限制,系统每瓦功耗每秒能生成的 token 越多,它就能服务越多的智能体,创造的价值也越大。 

MLPerf Endpoints 在真实的智能体编程和企业工作流上测试系统,并检查智能体是否仍能正确完成任务。NVIDIA Vera Rubin 在其所有智能体基准测试中均处于领先地位。

例如,在为智能体工作流构建的大型开放模型 Kimi K3 的一项临时结果中,Vera Rubin NVL72 系统在相同响应速度下,每瓦吞吐量超过 NVIDIA GB300 NVL72 的 10 倍。 

MLPerf® Endpoints v1.0,Kimi K3,标准化部门,可用类别,发布于 2026 年 11 月 9 日。NVIDIA Vera Rubin NVL72,32 个加速器,结果 1.0.1.kimi-k3.agentic_combined.1p,第 9 次运行:并发 = 1,024 个查询,TTFT P90 = 4,673.9 ms,系统 TPS = 41,414.2 tokens/秒,端到端平均交互性 = 每用户 50.4 tokens/秒,运行功耗 = 100.89 kW。NVIDIA GB300 NVL72,48 个加速器,结果 1.0.0.kimi-k3.agentic_combined.1,第 6 次运行:并发 = 48 个查询,TTFT P90 = 2,305.1 ms,系统 TPS = 2,210.4 tokens/秒,端到端平均交互性 = 每用户 56.2 tokens/秒,运行功耗 = 60 kW。比较基于在每用户 50 tokens/秒的共同最低端到端平均交互性下的每千瓦吞吐量。于 2026 年 11 月 9 日从 endpoints.mlcommons.org 获取。GB300 结果已由 MLCommons Association 验证。对于 Vera Rubin 的临时结果:尚待 MLCommons Association 验证,结果可能会在同行评审后发生变化。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家的注册商标和非注册商标。保留所有权利。严禁未经授权使用。更多信息请参见 www.mlcommons.org。

每个 AI 服务都必须在同时服务众多用户与快速响应每个用户之间取得平衡。Vera Rubin 改变了整条曲线,在响应更快的同时服务更多用户。 

在基准测试和工作负载中全面领先

NVIDIA 合作伙伴广泛参与了 MLPerf Training,共有 20 家机构提交了结果: ASUS、Azure、Cisco、CoreWeave、Crusoe、Dell Technologies、Firmus、Fujitsu、Giga Computing、Google Cloud、HPE、Inventec、Krai、Lambda、Nebius、Oracle、Quanta Cloud Technology (QCT)、Supermicro、TTA 以及 University of Florida。 

他们的提交展示了NVIDIA的可编程平台如何借助开源库和框架,让庞大的合作伙伴生态系统得以创新并优化AI训练性能。

这一领先优势不仅限于MLPerf。 

Vera Rubin在包括SemiAnalysis AgentX和Artificial Analysis AgentPerf在内的独立基准测试中也展现出领先性能,彰显了同一套NVIDIA基础设施如何高效运行从预训练、后训练到智能体推理的各类任务,以及AI之外的工作负载,例如本周在SC26上展示的高性能计算。 

深入了解MLPerf Training和MLPerf Endpoints技术博客中的结果。

来源:NVIDIA Blog · blogs.nvidia.com

来源:RadarAI · aihot.news