跳到正文
Hacker News· jjcm·· 5 天前AI 评分65

AI 电力需求会一直涨吗:从训练能耗、芯片效率到电网供给的逐条拆解

Yes, But

AI 导读

文章以美国数据中心 2023 年用电 176 TWh、2024 年 192 TWh 为起点,结合 Berkeley Lab 对 2025 年增长 22%、2026 年增长 29% 的预测,估算 2026 年 AI 用电约 75 TWh。

正文 · AI 翻译

AI 已是电网级负载

美国数据中心在 2023 年用电 176 TWh(占美国电力的 4.4%),2024 年为 192 TWh。伯克利实验室的参考情景预计它们在 2025 年增长 22%、2026 年增长 29%,达到约 300 TWh。EPRI 估计其中 15–25% 是 AI。IEA 表示,以 AI 为重点的数据中心仅在 2025 年就增长了 50%。综合起来,2026 年 AI 的用电量约为每年 75 TWh。

训练占据头条(尽管推理用电更多),因为这笔一次性前期成本令人侧目。GPT-3 耗电 1,287 MWh,而 Grok 4 估计为 310 GWh,是前者的 240 倍。

更多数字

训练一个模型的能耗

GPT-3 · 20201.3 GWh

Llama 3.1 405B · 2024约 40 GWh

GPT-4 · 2023约 50 GWh

Grok 4 · 2025约 310 GWh

Log scale. GPT-3: Patterson et al. Llama: 30.8M H100-hours from Meta's model card × Epoch's overhead factors. GPT-4: estimate from leaked specs. Grok 4: Epoch AI. 310 GWh ≈ 29,000 US homes for a year.
自你打开本页以来

0已处理的 ChatGPT 提示词

0 Wh按每次 0.34 Wh 计算的耗电量

At mid-2025 volume (2.5B prompts/day ≈ 29,000/second). Volume has grown since; weekly users went from 800M to 900M+.

是的,但是 GPU 正变得越来越高效

英伟达将 Blackwell 宣传为每次推理能耗最高比 Hopper 低 25 倍。自 CES 2026 起全面量产的 Vera Rubin 声称,每兆瓦可处理的 token 数最高是 GB200 的 10 倍,CoreWeave 在 DeepSeek-R1 上实测为 10 倍。在英伟达自己的图表上,1.8T 参数 MoE 的每 token 能耗从 Pascal 的 17,000 J 降至 Blackwell 的 0.4 J,八年约 45,000 倍。

整体硬件趋势是每年效率提升 1.28–1.40 倍(Epoch、Epoch),IEA 表示这一趋势正在逐渐放缓。

更多数字

  • Rubin 的机架采用全液冷,PUE 为 1.1,而此前约为 1.25。
  • 这一亮眼提升很大一部分来自更低精度(FP16 → FP4)、更大的 NVLink 域和软件,而非芯片本身。在固定精度下,Rubin 的每瓦 FLOPs 与 Blackwell 大致持平,稠密模型的提升更接近 2–3 倍。
  • 此前每一项芯片趋势也都放缓了。每千瓦时计算量在 2000 年前每 1.6 年翻一番,之后变为每 2.6 年。单线程速度从每年 +52% 降至约 +3%。
  • 物理规律也设定了上限:CMOS 芯片的效率最高约为 H100 的 207 倍,而从 FP16 降到 FP4 已经用掉了大部分数值格式带来的增益。
  • 因此,我们让这一趋势在接近那堵墙时逐渐衰减,约为 Blackwell 的 130 倍(区间 26–650 倍)。这样十年后是 6–14 倍,而非 12–29 倍。若使用量维持在今天的水平,AI 的用电量仍会逐年下降,只是降幅没那么陡。
每一项芯片趋势都会放缓

单线程 CPU 速度,年增长率

1986–200352%

2003–201123%

2011–201512%

2015–2018~3%

GPU 效率在 10 年间的提升

1.40×/年,永久28.9×

1.40×/年,逐渐衰减11.3×

1.28×/年,永久11.8×

1.28×/年,逐渐衰减6.9×

CPU: Hennessy & Patterson, 2019. "Fading" means the yearly gain shrinks so total gains level off at ~130× today's efficiency, the CMOS ceiling from Ho, Erdil & Besiroglu.
GPT-MoE-1.8T 推理的每 token 能耗

Pascal · 201617,000 J

Volta · 20171,200 J

Ampere · 2020150 J

Hopper · 202210 J

Blackwell · 20240.4 J

Log scale. Nvidia slide deck.

是的,但是 AI 的采用率仅为 2%

a16z 的 State of Markets II 显示,截至 2026 年 4 月,只有 约 2% 的美国家庭付费订阅 AI(PNC 交易数据)。未来十年采用率将飙升。AI 的采用速度大约是 90 年代互联网的两倍,而互联网从 1995 年 14% 的美国成年人增长到 2005 年的 68%。以两倍的速度,AI 的未来十年相当于互联网的二十年,后者到 2015 年达到 86%。如果付费 AI 遵循同样的 S 曲线,从约 2% 的家庭增长到 68–86%,使用量将上升 34–43×,足以抵消硬件方面的收益。

推出约 2 年后使用它的美国成年人

生成式 AI39.4%

互联网~20%

PC(3 年)~20%

Bick, Blandin & Deming.

是的,但是 模型正变得越来越高效

密度定律(Xiao 等,Nature Machine Intelligence,2025)发现,开源 LLM 的每参数能力大约每 3.5 个月翻一番:每个季度,用一半大小的模型就能达到相同的分数。预印本测算出,从 GPT-3.5(2022 年 12 月)到 Gemini 1.5 Flash(2024 年 8 月),同等性能的价格下降了 266.7 倍。这些改进对能耗产生了直接影响。Google 在一年内将每个 Gemini 提示的能耗降低了 33 倍。

显然,这些密度提升不会永远持续下去。持续十年会得出一个明显荒谬的结果:在低端情况下,全美国的 AI 运行所需电力还不到一栋房子。现实是,对特定能力的需求会随着该能力的成熟而急剧放缓,但仍能取得巨大收益。

更多数字

Andrej Karpathy 的 GPT-2 复现是观察这一进展的绝佳方式。OpenAI 2019 年的训练运行成本约为 $43,000。llm.c 在 2024 年用 24 小时以 $672 复现了 1.5B 模型。到 2026 年 3 月,nanochat 在 1.65 小时内、花费约 $48 就超越了它:七年内便宜了约 900 倍,即每年 2.6 倍。在固定硬件上,社区竞速达到 GPT-2-small 损失的时间从 45 分钟降至 1.13。对于此处的估算,我们采用了每年 2.6 倍(Karpathy)到每年 10.8 倍(密度定律)的范围,并让其逐渐衰减,年收益每 3–10 年减半。

训练 GPT-2 级别模型的成本

OpenAI · 2019~$43,000

llm.c · 2024$672

nanochat · 2026 年 1 月$73

nanochat · 2026 年 3 月~$48

Log scale. 2019 figure is Karpathy's estimate (32 TPU v3 × 168 h). nanochat README.

是的,但是 TAM 大于人口规模

现在,token 的第一大用户是智能体,而不是人类。在 OpenRouter 上,智能体 API 密钥的使用量于 2026 年 2 月 6 日首次超过人类,到 9 月下旬,它们使用的 token 量已是人类的 约 7 倍。OpenClaw 默认以 30 分钟心跳自我唤醒,黄仁勋预测未来将有 1000 亿个智能体。智能体正变得主动,使用量也在大幅增长。那 7 倍中有一部分比看上去更便宜:约 90% 的智能体 token 是对同一提示词的缓存重读。按算力加权,如今智能体的用量约为人类的 1.5–2 倍。

我们假设到 2036 年,每个采用者的智能体算力增长 2–20 倍,即每年约 1.07–1.35 倍。

更多数字

一天,24 小时

你 · 约 3 次提示

常开智能体 · 48 次唤醒

凌晨 12 点早上 6 点中午 12 点下午 6 点凌晨 12 点

Human: ChatGPT's 2.5B prompts/day ÷ ~800M weekly users. Agent: OpenClaw's default heartbeat, each resending its full context.
OpenRouter 每日 token 量(7 天平均)

人类 · 2026 年 2 月0.5T

智能体 · 2026 年 2 月0.51T

人类 · 2026 年 8 月1.4T

智能体 · 2026 年 8 月7.3T

Log scale. a16z / OpenRouter (Peter Walker), via The Decoder. API keys classified as agentic or human by tool-call frequency and request timing.

是的,但是硬件正变得更加优化

服务模型的方式有一架梯子,每一级都比上一级更高效、更不灵活:CPU,然后是 GPU,然后是 TPU,然后是固定功能 ASIC。大多数 AI 仍运行在 GPU 上:2025 年第四季度,Nvidia 出货了 67% 的新增 AI 算力。最高一级是 Taalas 的 HC1,它将 Llama 3.1 8B 硬连线到晶体管本身,每焦耳 token 量约为满载 GPU 的 3 倍。

我们将 ASIC 从目前约占 AI 功耗的 25% 提升到 2036 年的 40–70%,每瓦 token 量为 GPU 的 1.5–20 倍:同样功耗下 AI 最多可提升约 13 倍。

更多数字

Llama 3.1 8B,每焦耳 token 数

H200 · 单用户0.3

H200 · 完全批处理~25

Taalas HC1~68

Vendor figures, not independently benchmarked. H200 at 700 W, ~230 tok/s for one user vs ~17,700 tok/s fully batched (TensorRT-LLM, FP8, 1k/1k); Taalas HC1 at ~250 W and ~17,000 tok/s, assuming one stream is its full output.

是的,但是 杰文斯悖论

1865 年,威廉·杰文斯注意到效率并不能节省燃料:当苏格兰炼铁厂将每吨铁的煤耗削减到不足三分之一时,苏格兰的煤炭使用量增长了十倍。AI 正遵循同样的模式。谷歌将每次提示的能耗削减了 33 倍,但其月度 token 量在两年内从 9.7 万亿增至 3.2 千万亿。

采用和代理已计入上述数字,因此这里的问题是额外还会再花费多少。AI 自身在 2025–26 年的记录表明为 75–85%:前几节节省下来的每一项效率提升,大部分都会以负载形式回归。

更多数字

  • 杰文斯的原话:“认为燃料的经济使用……意味着少用它,这完全是概念混淆。”
  • 1800 年至 2000 年间,英国的光价降至不足 1/3,000,而人均光使用量增长了 6,500 倍,总使用量增长了 25,000 倍。300 年来,光支出一直保持在GDP 的 0.72% 左右,这相当于约 100% 的回弹。
  • 唯一真正的反例:2010 年至 2018 年,数据中心算力增长了 6.5 倍,而能耗仅增长 6%。GPU 到来后,这种情况就结束了。
  • “杰文斯悖论再次应验!”DeepSeek R1 发布的那一周,萨提亚·纳德拉发帖称。前沿模型的运行成本现在每年高出 3–18 倍,因为节省下来的钱被花在了更大的模型上。
  • 75–85% 从何而来:2025–26 年 token 增长了 7 倍,每任务能耗下降了≥10 倍,但 AI 数据中心负载仍上升了50%。
  • 证据薄弱,且一项研究发现需求在各模型间缺乏弹性。
效率提升 vs. 额外使用了多少

每吨铁的煤耗÷3

苏格兰煤炭使用量×10

英国光价,1800–2000÷3,000

英国光使用量×25,000

每次 Gemini 提示能耗(1 年)÷33

谷歌月度 token(2 年)×330

Log scale. Green = efficiency gain, orange = growth in use. Jevons 1865, Fouquet & Pearson 2006, Google 2025, Google I/O 2026.

是的,但是 电网无法如此快速建成

目前 AI 受限于供应,而非需求。萨提亚·纳德拉表示微软“有一堆芯片躺在库存里,我无法插上电”。仅 ERCOT 就有474 GW 的大型负载在等待,而美国电网一年内接入的新数据中心负载最多为约 10 GW。供应链的每个环节都积压:燃气轮机需要约 6 年,大型变压器需要2.5–4 年。

我们将 AI 的新增产能上限设为每年 10–25 GW,到 2036 年相当于 650–1,700 TWh。超过约 1,700 TWh 后,这就不再是需求问题。涡轮机、变压器和电线并不存在。

更多数字

  • 亚马逊的安迪·贾西预计产能不足以满足 2026 年的需求,Alphabet 的 CFO 称其为“供应受限的环境”。
  • 北弗吉尼亚的数据中心空置率为0.2%,在建项目中 80% 已被租出。
  • ERCOT 等待负载中约 90% 是数据中心。Dominion 有54 GW 已签约,但其数据中心负载每年增长约 0.5 GW。
  • PJM的容量拍卖连续第三年触及价格上限,但仍短缺6.8 GW。
  • GE Vernova有116 GW的燃气轮机订单和预订量,而年产量约为20 GW,且自2019年以来涡轮机价格上涨了195%。一座新电厂从申请并网到投运现在需要等待超过5年。
  • 建设者正通过现场燃气发电绕过电网(已宣布124 GW,其中一半是投机性的),但这又撞上了同样的涡轮机排队问题。
  • 每年10–25 GW的规模,从今天的速度到大约相当于美国全部发电装机建设量的两倍。即便是高情景也达不到Anthropic所说的行业所需的到2028年50 GW。
排队等待 vs. 实际建成

ERCOT大负荷请求474 GW

GE燃气轮机积压订单116 GW

Dominion已签约数据中心54 GW

一年内接入的最大数据中心负荷~10 GW

Dominion每年新增数据中心负荷~0.5 GW

从下单到发电的年限

建设数据中心~1.5

大型变压器2.5–4

电网互联5+

燃气轮机~6

Log scale (top), linear (bottom). Data-center build time: DOE. Others linked in text.

来源:Hacker News · html.non.io