跳到正文
NVIDIA Newsroom·· 3 小时前AI 评分40

NVIDIA 与 Rebellions、SK Telecom 合作,用 NVLink Fusion 推进韩国主权 AI 基础设施

NVIDIA, Rebellions and SK Telecom Announce Collaboration to Advance Sovereign AI Infrastructure With NVIDIA NVLink Fusion

AI 导读

NVIDIA、Rebellions 与 SK Telecom 宣布合作,Rebellions 将通过 NVLink Fusion 把下一代 R200 NPU 接入 NVIDIA 平台,并采用 MGX 机架架构开发机架级推理系统。

正文 · AI 翻译

韩国设计的 AI 处理器与模型将基于 NVIDIA NVLink Fusion 和 MGX 基础设施构建机架级推理

新闻摘要:

  • Rebellions 计划采用 NVIDIA NVLink Fusion,将其下一代 R200 神经处理单元连接到 NVIDIA 的开放基础设施平台,用于机架级推理。
  • SK Telecom 计划在其 AI 数据中心部署这些系统,以支持其全栈主权 AI 愿景,涵盖基础设施、专有模型和面向公众的服务,包括韩国“AI for All”项目下的服务。
  • 该合作由韩国科学技术信息通信部支持,旨在将国内半导体创新与主权 AI 基础设施连接起来。
     

NVIDIA、Rebellions 和 SK Telecom 今日宣布合作推进韩国主权 AI 基础设施——利用 NVIDIA NVLink Fusion™ 将 NVIDIA 的开放基础设施平台、Rebellions 韩国设计的 AI 处理器以及 SK Telecom 的 AI 数据中心、模型和服务能力整合在一起。

作为协议的一部分,Rebellions 将使用 NVLink Fusion 将其 Rebel R200 神经处理单元(NPU)连接到 NVIDIA 平台,并利用 NVIDIA MGX™ 机架架构进行机架级系统开发。SK Telecom 计划部署这些系统,依托其 AI 数据中心运营经验、专有模型和服务。

在韩国科学技术信息通信部(MSIT)的支持下,该合作旨在支持针对韩国语言、行业和优先事项量身定制的 AI 服务,将韩国半导体开发与大规模交付 AI 所需的系统和运营能力连接起来。

“韩国拥有成为 AI 世界领导者的人才、技术和产业雄心,”NVIDIA 创始人兼 CEO 黄仁勋表示。“主权 AI 赋予各国将其语言、文化和专业知识转化为智能的能力。借助 NVLink Fusion,韩国芯片制造商可以将其定制 ASIC 连接到 NVIDIA 的 AI 工厂平台,将其处理器与 NVIDIA 计算紧密耦合以运行 AI 工作负载。我们与 MSIT、Rebellions 和 SK Telecom 一起,正在为韩国构建计算基础,以生产自己的智能并推动其下一次工业革命。”

“今天的公告标志着一个转折点,通过将韩国的 AI 芯片和模型与全球系统技术连接起来,为主权 AI 开辟新篇章,”Rebellions 联合创始人兼 CEO Sunghyun Park 表示。“通过将 Rebellions 专为特定目的打造的芯片和系统设计与 NVIDIA 的 NVLink Fusion、高速互连和机架级设计专长,以及 SKT 的模型和数据中心运营能力相结合,我们将为前沿模型大规模提供低延迟、高能效的推理。作为领先的韩国 AI 芯片初创公司,我们将带头推动韩国技术成为支撑全球 AI 的核心支柱。”

“此次合作意义重大,它通过将全球 AI 基础设施技术与韩国 AI 半导体相结合,验证了下一代主权 AI 基础设施的潜力,”SK Telecom 总裁兼 CEO Jung Jai-hun 表示。“通过连接 SKT 的 AI 数据中心、包括 A.X K2 在内的专有 AI 模型,以及在‘AI for All’项目下开发的面向公众的 AI 服务,我们将增强全栈主权 AI 竞争力,并为韩国 AI 生态系统的增长做出贡献。”

以 NVIDIA 开放基础设施平台扩展硅创新
NVLink Fusion 将 NVIDIA 垂直整合、水平开放的 AI 平台扩展至定制 XPU。它使芯片制造商能够将专用硅与 NVIDIA 的高带宽、低延迟 scale-up 网络及成熟的基础设施生态系统相结合,帮助提升性能、降低部署风险并加速上市时间。

Rebellions 正在开发其下一代 R200 NPU,针对使用前沿模型(包括数万亿参数的 混合专家模型)的低延迟、高能效推理进行优化。通过 NVLink Fusion,Rebellions 将借助 NVIDIA NVLink™ scale-up 网络在机架内连接其 R200 NPU。

NVIDIA MGX 机架架构和参考设计将支持这些系统的开发,而 MGX 生态系统使 Rebellions 能够接入由原始设计制造商和组件供应商组成的成熟供应链。

连接基础设施、模型与服务
SK Telecom 拥有构建和运营 AI 数据中心的经验,以及其专有基础模型和面向公众的 AI 服务。基于其在 AI 开发和主权基础设施方面与 NVIDIA 的长期合作,SK Telecom 计划将这些能力连接起来,并使用标准化 MGX 机架架构部署在其 AI 数据中心,以提供全栈主权 AI。

MGX 机架架构为 GPU 和 NPU 系统共享数据中心设计要素(包括机架占地、供电和冷却)提供了基础。这种方法可在 Rebellions 的处理器和系统开发过程中支持基础设施规划。

两家公司计划开发一种分离式推理方法,将 AI 响应生成的不同阶段分配给最适合各任务的处理器架构。其计划工作包括使用 NVIDIA GPU 进行预填充、使用 Rebellions NPU 进行解码,以提高推理吞吐量和能效。

SK Telecom 计划将此基础设施与其专有基础模型和面向公众的服务(包括政府“AI for All”项目下的服务)连接起来,以推进其全栈主权 AI 战略。

通过 NVLink Fusion 支持主权 AI 基础设施
MSIT 正在支持 NVIDIA 与韩国 NPU 公司之间的合作,首先从 Rebellions 和 SK Telecom 开始,以加强韩国的主权 AI 基础设施。

“与 NVIDIA 的这项合作标志着向前迈出的重要一步,因为它使韩国开发的 NPU 能够通过 NVLink Fusion 与全球 AI 计算领导者 NVIDIA 一起进入计算基础设施市场,”韩国副总理兼科学技术信息通信部长官裴庆勋表示。“政府将积极支持这项合作以取得切实成果,并进一步推进与 NVIDIA 在物理 AI 和确保 GPU 供应等一系列领域的合作。”

通过将韩国开发的处理器和模型与 NVIDIA 基础设施及 SK Telecom 的数据中心专长相结合,这些公司旨在为韩国公共和私营部门的主权 AI 服务奠定基础。

可用性
Rebellions 的 R200 系统预计将于 2028 年准备部署。

来源:NVIDIA Newsroom · nvidianews.nvidia.com