跳到正文
NVIDIA Blog· Shruti Koparkar·· 16 天前AI 评分22

NVIDIA AI 工厂如何实现高投资回报:高产出、长寿命、通用性

Productive, Durable, Fungible: How NVIDIA AI Factories Maximize Return on Investment

AI 导读

NVIDIA 提出 AI 工厂投资回报取决于三个要素:每兆瓦产出能力、硬件使用寿命和 token 需求,三者相互关联。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。

正文 · AI 翻译

AI 工厂以兆瓦乃至吉瓦为单位建设。每兆瓦工厂的成本约为 6000 万美元,AI 工厂运营商只有在清楚看到投资回报的情况下才会投入这种规模的资本。影响 AI 工厂回报的关键因素有三个:

  1. 盈利能力: 如果工厂售出它能生产的每一个 token,它一年能赚多少。
  2. 使用寿命:其 AI 硬件能持续创造收益多长时间。
  3. 需求:对这些 token 的需求有多大。

某一方面的优势无法完全弥补另一方面的劣势。如果工厂只能售出它所能生产的一部分,高盈利能力就意义不大。如果工厂仅仅一年后就无法满负荷生产,高需求也无关紧要。这三者也不是相互独立的。一家能够运行更多种工作负载的工厂会找到更多需求,从而年复一年地持续创造收益。

NVIDIA AI 工厂的设计旨在将这三者同时最大化。它们:  

  • 高产出:每兆瓦提供最高吞吐量、每个 token 成本最低,从而最大化盈利能力。
  • 耐用:NVIDIA GPU 和系统在出货多年后仍能持续创造收益,延长使用寿命。
  • 通用:它们能运行每一种 AI——在每个阶段、每个地点——以及许多根本不涉及 AI 的工作负载,从而加深并拓宽它们所能服务的需求。
NVIDIA 平台高产出、耐用且通用,从而最大化 AI 工厂回报。

全栈的工程协同设计最大化 AI 工厂吞吐量,持续的软件优化让已部署的硬件在出货多年后仍保持高产出。NVIDIA CUDA-X 库让工厂能够运行任何加速工作负载。标准化架构进而让这一切触手可及,任何运营商都能基于经过验证的参考设计进行部署。

高产出:每兆瓦最高 token 数与最低 token 成本

电力是 AI 工厂的硬性约束。这使得每兆瓦每秒 token 数成为决定盈利能力的关键指标。在固定功耗范围内产出更多 token 意味着更多收入。更低的每 token 成本意味着更高的利润。

SemiAnalysis AgentX 数据显示,NVIDIA Vera Rubin NVL72 系统每兆瓦吞吐量比 NVIDIA GB300 NVL72 高出 30 倍以上,在 DeepSeek V4 Pro 模型上每百万 token 成本最多低 45 倍。如此巨大的提升来自全栈的 极致协同设计:从模型和工作负载向下贯穿软件,直至计算、网络和内存,全部协同优化。

SemiAnalysis AgentX 关于 NVIDIA GB300 NVL72 在 GLM 5.3 上性能的分析。

由此引出两个问题。如果每一代都让 token 大幅变便宜,对计算的需求会萎缩吗? 

不会,反而会扩张。 

更便宜的 token 让更多用例变得经济可行,而这些用例消耗的 token 比效率节省下来的更多。 

第二个问题关乎耐用性。如果每一代都比上一代好这么多,那老一代会怎样?

耐用:已部署的基础设施持续创造收益 

并非每个工作负载都需要最新的系统。合适的匹配取决于工作负载的复杂度和形态,这就是为什么上一代产品在下一代到来后仍能持续创造收益。 

NVIDIA A100 GPU 于 2020 年出货,六年后仍在商业服务中运行,证明了其持续的经济价值;CoreWeave 最近将 2020 年首次推出的设备的预订延长至 2029 年。多年来,每家主要运营商都延长了其服务器的折旧年限,这是对硬件何时停止创造收益的一种猜测,而且这个猜测不断向后推移。2026 年 9 月 Sprout 的分析报告“数据中心 GPU 的有效寿命”追踪了这一年限在每家主要运营商处的变化。

每家主要运营商都延长了服务器寿命。来源:Sprout,“数据中心 GPU 的有效寿命”,2026 年 9 月。数据基于公司披露和 Sprout 汇编的新闻报道。会计寿命是物理寿命的保守代理——微软的 NVIDIA V100 机群运行了 8.4 年,而账面寿命为六年。

Barkr 根据这些系统的转售价格,将八 GPU H100 系统的使用寿命定为五到六年,GB300 NVL72 定为九到十年。Silicon Data 显示,一块六年前的 A100 GPU 仍值其成本的四分之一,而按五年折旧年限,它在一年多前就已归零。 Ornn Data 发现,市场为五年期合同租用 A100 GPU 支付的价格是一个月期合同的 80%。

CUDA 是用于编程 NVIDIA GPU 的软件平台,它跨代运行,因此当新架构到来时,运营商已有的任何资产都不会被搁置。持续的软件和内核优化不断改善现有硬件的能力。

同一平台运行机器学习、深度学习、生成式 AI、推理、代理式 AI 和物理 AI。每一种新的工作类型都出现在已经安装好的硬件上。

这就是通用性。一个系统能承担的工作种类越多,它就能越长久地找到工作。

通用:每种 AI、每个阶段、每个地点

为一种工作而建的工厂是在押注这种工作会持续。而一个能运行一切工作的工厂,即使工作发生变化,也依然有用并持续创造收入。

NVIDIA AI 工厂运行每一种类型的 AI 模型——开源和专有——涵盖语言、视觉、生物学、物理学和机器人技术。它们运行每个阶段,从数据处理到预训练、后训练和推理。它们运行在每个地点,从超大规模和 AI 云到主权项目、企业数据中心和边缘。

NVIDIA 平台具有通用性,可在每个阶段和地点运行每种类型的 AI 工作负载。

并非所有工作都是构建和运行 AI 模型。同一基础设施还运行数据处理、科学计算、仿真、图形等。

所有这些工作负载,无论是否涉及 AI,最终都归结为相同的并行数学运算,而 NVIDIA GPU 正是为在数千个核心上同时运行这类运算而构建的。CUDA 正是让一颗芯片能够模拟光线、折叠蛋白质并预测下一个 token 的原因。在此基础上,有超过 1,000 个现成的 CUDA-X 库和模型,涵盖从深度神经网络、计算光刻和量子电路模拟到向量搜索和气候建模的各个领域,并有超过 1,000 万名开发者在其上构建。 

这正是 NVIDIA GPU 成为通用加速计算而非为单一工作负载定制的 ASIC 的原因。通用并不意味着泛泛:Tensor Core 和 Transformer Engine 将 AI 优化硬件置于可编程架构之中,在一颗芯片中同时实现专用性和灵活性。一种架构运行所有这一切,正是保持高利用率及其回报的原因。 

这种多功能性在客户的生产环境中得到了体现:

  • Lilly:在拥有 1,016 块 GPU 的本地集群上构建和运行蛋白质、小分子和基因组学模型,并为其内部团队提供聊天机器人和智能体工作流。
  • Pinterest:在超大规模云上对视觉语言模型进行后训练和部署,横跨 14,000 块 GPU,涵盖 NVIDIA Blackwell、Hopper 及更早架构。
  • Revolut: 使用 NVIDIA cuDF 处理数十亿条交易记录的数据,然后在 AI 云上训练和部署基础模型。
  • Runway:在 NVIDIA Hopper 上训练世界模型,并使用云基础设施在 NVIDIA Blackwell 平台上提供服务。
  • Texas A&M University:在其超级计算机上运行分子模拟和 AI 药物发现,在 26 个项目和 7 个机构中实现了 95-98% 的利用率。

AI 之外也是如此。Cosm 运营着一个由 NVIDIA 提供支持的分布式数据中心,为高分辨率视频播放、流媒体、实时图形和同步显示提供灵活的计算资源。Dassault Systèmes 为 Wichita State 的飞机认证和 Lucid Motors 的车辆设计提供虚拟孪生模拟支持。而 Unilever 通过数字孪生而非照片拍摄来构建产品图像,将生产成本减半。

这里的例子列表不可能穷尽——这正是重点。 

NVIDIA AI 工厂被设计为高效、持久且可互换:更有利可图的 token、更长的使用寿命和更深入的需求。这正是最大化其回报的方式。 

想了解更多关于 NVIDIA AI 工厂的信息,请收看 NVIDIA 创始人兼 CEO 黄仁勋于 10 月 21 日星期三中欧夏令时上午 11 点发表的 GTC Berlin 主题演讲。

来源:NVIDIA Blog · blogs.nvidia.com