微软发布第三代自研 AI 芯片 Maia 300,2027 年起量产部署
Microsoft’s new AI chip makes it less reliant on Nvidia’s GPUs
微软发布第三代自研 AI 芯片 Maia 300,定位为微软产品与服务的“主要 AI 推理系统”,将于 2027 年开始投入生产部署。微软云业务执行副总裁 Scott Guthrie 称,Maia 300 每兆瓦 token 数比领先的 GPU 系统高 40%,在 96 加速器满配下机架级 token 吞吐量可达 Maia 200 的 7 倍。
微软今天发布其第三代自研 AI 芯片 Maia,旨在成为微软产品和服务的“主要 AI 推理系统”。Maia 300 不仅提升了在云端运行 AI 工作负载的成本和效率,还更能处理最新的推理模型和智能体任务。
Maia 300 将于 2027 年开始投入生产部署,其设计充分考虑了效率。“我们预计 Maia 300 每兆瓦的 token 吞吐量将比领先的 GPU 系统高出 40%,”微软云业务执行副总裁 Scott Guthrie 表示。“在完整的 96 加速器配置下,其机架级 token 吞吐量可达 Maia 200 的 7 倍。”
这些效率提升将使微软很快能够主要依赖其自研 AI 芯片,而非 Nvidia 和 AMD 的芯片。“从 2027 年开始,我们将把 Azure Maia 系列扩展到多吉瓦级部署,使 Maia 成为微软产品和服务的主要 AI 推理系统,”Guthrie 表示。
Maia 300 是 Maia 200 的继任者,后者于今年 1 月才发布。Maia 200 已在微软的生产 AI 工作负载上运行,包括 Microsoft Copilot、GitHub Copilot、Microsoft Foundry 以及微软自有的 AI 模型。
“以 AI 服务的真实世界指标衡量,Maia 200 是我们集群中性能最佳的 AI 基础设施,”Guthrie 表示。“Maia 300 是一个完整的 AI 系统,专为当今涌现的新型 AI 工作负载而设计:长上下文推理、对延迟敏感的对话体验,以及持续的多步骤智能体任务。”
微软正在采用新的芯粒架构来实现其至关重要的效率提升。最新的 Maia 300 架构基于台积电 N2P 工艺节点,将计算、内存控制器和 I/O 功能分离。“这增加了专用于计算性能的硅面积,并让每个功能都能使用最适合其角色的技术,”Azure 硬件和基础设施团队表示。
Maia 300 也是微软自身 AI 模型工作的关键部分,可能帮助该公司实现追赶 Google DeepMind、OpenAI 和 Anthropic 的目标。“我们必须打通整个技术栈,一直深入到芯片层面,”微软 AI CEO Mustafa Suleyman 表示。“在那种规模下,我们需要一个自己拥有、并与我们的模型协同设计的平台。这就是为什么在 Maia 芯片上运行我们的微软 AI 模型是我们团队的关键重点。”
关注本报道的话题和作者,以便在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。
- Tom Warren
来源:The Verge · AI · theverge.com
