跳到正文
NVIDIA Blog· Uttara Kumar·· 1 小时前精选AI 评分67

Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用

Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure

AI 导读

Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用,A5X 实例将于下月开放,并计划扩展至欧洲。

推荐理由

原文给出 A5X 实例的可用时间、规模规划与首批客户用法,可据此判断智能体推理与强化学习基础设施的落地节奏。

正文 · AI 翻译

这些实例将于下个月正式全面可用,并计划将可用范围扩展至欧洲——为云客户带来一个集训练、推理和大规模强化学习于一体的集成平台。

A5X 实例将 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术整合在一起,用于大规模运行高要求的智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展至多个站点,最多部署 960,000 块 Rubin GPU。

Ineffable Intelligence 是一家总部位于伦敦的科技公司,由 AlphaGo 创造者 David Silver 创立,是首家使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。

阅读 NVIDIA 在欧洲的全部公告

通过交互进行学习需要持续循环地生成经验、评估结果并更新模型,这要求基础设施能够大规模支撑整个流程。A5X 将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,融合计算、网络和存储,以支持大规模的经验驱动型学习。

“我们正在构建能够通过自身经验不断改进的超级学习者,”Ineffable Intelligence 创始人兼首席执行官 David Silver 表示。“这既需要大量算力,也需要在生成经验和基于经验训练之间建立紧密连接,使智能体的每一次改进都能迅速塑造其下一次经验。Vera Rubin 将计算性能与高带宽连接相结合——既包括 Vera CPU 与 Rubin GPU 之间,也包括机架内 Rubin GPU 之间——这使我们能够进一步拓展强化学习研究的规模和雄心。”

总部位于伦敦的营销与传播公司 WPP 也已在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意智能体参考架构,使用了 NVIDIA Nemotron 模型和 NVIDIA OpenShell,后者是用于安全 AI 智能体的 NVIDIA OpenShell 参考架构的一部分。

这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、放大和风格重塑,并在执行前获得人工批准。OpenShell 为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群的工作负载在单个 A5X 实例上即可运行。

随着各组织部署智能体系统,它们需要保护驱动这些系统的专有模型和敏感数据——即使运行在并非自己拥有的基础设施上也是如此。

Google Cloud 将成为首批在裸金属实例上以机架规模提供NVIDIA 机密计算的云服务提供商之一,这些实例包括由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例。此外,Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 驱动的 G4 虚拟机上正式提供机密计算,为机密推理和微调提供灵活的平台。包括Vertebrae、Polaris Cloud和Confidential Core AI在内的客户正在使用 Confidential G4 实现对话隐私、可验证的智能体执行以及受策略治理的企业智能。

为支持大规模节能部署,Google Cloud 与 NVIDIA 正在探索面向基于 Vera Rubin 的基础设施的NVIDIA DSX MaxLPS能力,以帮助优化每瓦性能,并在可用数据中心电力预算内扩展容量。

了解更多关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。

阅读 NVIDIA 在欧洲的全部公告

来源:NVIDIA Blog · blogs.nvidia.com