arXiv cs.AI· Sajy Khashab, Albert Gran Alcoz, Alon Gal, Jacky Romano, Rani Abboud, Yonatan Piasetzky, Lior Maman, Amit Nishry, Barak Gafni, Omer Shabtai, Matty Kadosh, Dror Goldenberg, Gilad Shainer, Mark Silberstein·· 11 小时前AI 评分38
NVIDIA Spectrum-X：面向大规模 AI 训练的硬件加速多平面网络
NVIDIA Spectrum-X: Hardware-Accelerated Multiplane Networking for Large-Scale AI Training
AI 导读
NVIDIA 提出 Spectrum-X 多平面架构，用拓扑并行替代层级深度，并在 NIC 与交换机中引入硬件加速负载均衡，以微秒级响应 AI 训练的动态网络变化。评测显示其达到理论线速的 98% 且延迟低抖动，10% 链路故障下延迟仅增加 7%，并保持跨租户隔离与对 LLM 训练中链路抖动的快速反应。
正文 · AI 翻译
作者：Sajy Khashab、Albert Gran Alcoz、Alon Gal、Jacky Romano、Rani Abboud、Yonatan Piasetzky、Lior Maman、Amit Nishry、Barak Gafni、Omer Shabtai、Matty Kadosh、Dror Goldenberg、Gilad Shainer、Mark Silberstein
摘要：随着分布式模型训练的规模扩展到数十万块 GPU，横向扩展网络面临着前所未有的性能与效率需求。NVIDIA Spectrum-X Ethernet 从设计之初就以在高利用率和低延迟下实现可预测且稳定的网络性能为目标。本文介绍 Spectrum-X 多平面（multiplane）架构，该架构以拓扑并行取代层级深度，并在网卡和交换机中引入硬件加速负载均衡，作为关键架构方法，以 AI 训练工作负载所需的微秒级时间尺度对高度动态的网络状况做出快速反应。我们阐述了其动机、设计原则、评估方法以及在当前最先进基准上的性能，还介绍了在大规模系统中部署和调试 Spectrum-X 网络的经验教训。我们的评估展示了生产级 AI 基础设施在四个核心维度上的性能：达到理论线速的 98%，且延迟低、无抖动；对并发工作负载具有强大的跨租户隔离能力；具备稳健的、与容量成比例的对分带宽，且在 10% 的 Fabric 链路故障下延迟仅增加 7%；以及在 LLM 训练工作负载期间对主机和 Fabric 链路抖动做出快速反应。
| 主题： | 网络与互联网架构（cs.NI）；人工智能（cs.AI）；分布式、并行与集群计算（cs.DC） |
| 引用为： | arXiv:2605.21187 [cs.NI] |
| （或本版本的 arXiv:2605.21187v2 [cs.NI]） | |
| https://doi.org/10.48550/arXiv.2605.21187 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Sajy Khashab [查看邮箱]
[v1]
2026年5月20日星期三 13:52:47 UTC（9,496 KB）
[v2]
2026年10月20日星期二 08:25:21 UTC（4,657 KB）
来源：arXiv cs.AI · arxiv.org