跳到正文
Hacker News· datareceipts·· 4 小时前AI 评分55

同一块 H100 每小时租金从 2.69 美元到 12.29 美元不等

The same H100 costs $2.69 or $12.29 an hour depending where you rent it

AI 导读

datareceipts 统计了 AWS、Azure 与多家 neocloud 的按需 GPU 价格,同一块 H100 SXM 80GB 每小时最低 2.69 美元(RunPod Community)、最高 12.29 美元(Azure ND96isr_H100_v5),相差 4.57 倍,连续租一个月分别是 1964 美元和 8972 美元。

正文 · AI 翻译

109 — H100 每小时的真实成本

AWS、Azure 和新兴云厂商的按需 GPU 租赁价格,统一换算为 每 GPU 每小时美元数,并按分组排列,确保只比较完全相同的 GPU。

结果

H100 SXM 80GB 美元/GPU-小时 一个月(730 小时)
RunPod Community $2.69 $1,964
RunPod Secure $3.99 $2,913
AWS p5.48xlarge $6.88 $5,022
Azure ND96isr_H100_v5 $12.29 $8,972

同一款芯片,最便宜与最贵之间相差 4.57 倍。一块 GPU 连续运行一个月,费用是 1,964 美元还是 8,972 美元,只取决于你在哪里租。

这种比较是刻意分组的

“一块 H100”其实是三种不同的产品。SXM 80GB、PCIe 80GB 和 NVL 94GB 都被当作 H100 来营销,但它们的价格并不相同。把它们放进同一张 图里,会人为制造出并不存在的价差,因此这里的每一次比较都限定在 同一个(型号、显存)分组内。

同一家厂商内部也是如此:Azure 将相同的 A100 PCIe 80GB 以每 VM 一块、两块 和四块 GPU 的形式列出,每 GPU-小时价格分别为 3.67、4.78 和 4.78 美元。价差计算采用每家 厂商获取指定 GPU 的最便宜途径,因此 Azure 与 Azure 之间的差距绝不会表现为 市场差距。RunPod Secure 和 Community 被算作同一家公司。

4.57 倍不是什么

它不是纯粹的利润。从 Azure 的 ND 系列换到 RunPod Community,你要放弃:

  • InfiniBand。Azure 的 ND SKU 每 GPU 配备 400 Gbps 的 Quantum-2 InfiniBand,并支持 GPU Direct RDMA,这正是多节点训练得以运行的关键。这也是 ND 系列定价高于 Azure 自家单 H100 的 NC SKU(6.98 美元)的原因。
  • 数据中心 SLA。RunPod Community 是第三方主机出租自己的 硬件。
  • 企业合规、预留容量,以及超大规模云厂商的其他 配套服务。

如果你在单个节点上做微调,你就是在为一个永远用不上的互连付费。如果你要跨 64 个节点训练,便宜的那一行就不是选项。

文件

文件 内容
collect.py 拉取 AWS Price List + Azure Retail Prices。无需认证。
hyperscalers.json 这些 API 返回的内容。
vendors.json 新兴云厂商价格,人工转录,附来源 URL 和读取日期。
compute.py 分组、按厂商归一化、价差。
compare.json 输出。
python3 collect.py   # ~1 GB AWS index, slow
python3 compute.py

局限性

  • 仅为按需目录价。预留、承诺使用和竞价定价都会降低 超大规模云厂商的数字,尤其是竞价定价会大幅缩小差距。
  • 各仅一个区域(AWS us-east-1,Azure eastus)。
  • GPU 数量来自厂商文档,而非价格标签——AWS 对 p5 报告“640 GB HBM3”,Azure 报告的是加速器显存总量, 两者都没有说明每 GPU 的型号。文档 URL 在 compare.json 中。
  • Lambda 被排除在头条价差之外。其公开页面声明所列费率 自 2026-11-16 起生效;当前费率需登录才能查看。其数据行 单独展示并标注。
  • 可用性不计价。拿不到的便宜 H100 不算价格。

来源:Hacker News · github.com