NVIDIA 发布 Minerva，为 AI 工厂提供端到端可观测性

今日发布的NVIDIA Minerva是一个 AIOps 平台，旨在帮助团队更早发现问题并保持 AI 工厂高效运转。它汇集来自基础设施和 AI 工作负载的遥测数据，然后应用专门构建的 AI 模型，将这些数据转化为及时、可操作的洞察。

AI 工厂是世界上最复杂的运营之一，大量 GPU 在高速网络上协同工作，以训练模型并服务 AI 应用。在这种规模下，单个组件性能下降就可能拖慢整个作业。预警信号可能很容易被忽视，例如某个 GPU 运行温度高于同类，或某块 NVMe 驱动器在负载下性能下降。

该平台聚焦于 AI 工厂良率，即基础设施通过 GPU 小时、有效吞吐、集群正常运行时间和 token 产出所实现的有效工作量。

阅读 NVIDIA 在欧洲的全部公告

提供 AI 工厂的动态视图

传统监控工具往往将数据中心划分为彼此独立的视图。网络、计算、站点可靠性和机器学习团队各自看到运营的不同部分。Minerva 将这些信号跨 NVIDIA GPU、网络、存储、调度器和工作负载连接起来。

借助这些信号，Minerva 构建动态知识图谱，对基础设施——GPU、SuperNIC、交换机和线缆——以及其上运行的作业进行逻辑映射。这种上下文帮助运维人员将缓慢的训练作业追溯到影响它的组件，即使是在拥有数十万块 GPU 的工厂中也是如此。

它使用监督式和无监督式机器学习，每小时分析数十亿个数据点。它学习正常行为，检测此前未见过的异常，预测即将发生的故障，并基于工厂拓扑关联相关事件。它不会把每个症状都发送给运维人员，而是能将事件风暴归并为聚焦的单一事件，并给出可能的根本原因。

Minerva 自带原生 AI 助手，并可连接外部代理式 AI 工具。这增加了一个基于实时遥测的自然语言界面。运维人员可以通过对话调查集群健康状况并接收建议的修复方案。团队可以保留人工介入，手动实施修复，或通过基础设施应用编程接口和外部系统将 Minerva 连接到自动化流程。

最大化 AI 工厂良率的成果

关联工作负载与基础设施问题的能力，加上其代理式 AI 能力，有助于简化 AI 工厂运营。Minerva 不会让运维人员面对大量告警，而是将相关问题聚合为单个可操作项。这使 AIOps 团队能够从被动维护转向主动维护。所有这些都有助于 AI 工厂最大化 GPU 正常运行时间。

Minerva 为 AI 工厂关注的关键指标带来价值：

• 更长的中断间隔时间：Minerva 在问题发生前发现它，因此作业能运行更长时间而不出故障。
• 更快的修复时间：当事件确实发生时，Minerva 能精确定位问题，从而显著加快解决速度。
• 更深入的洞察：现代 AI 基础设施会产生海量数据；Minerva 对其进行过滤，只留下真正重要的少数告警。

IREN 是使用 Minerva 优化其 AI 工厂的 NVIDIA 合作伙伴之一。 

“随着我们扩大 AI 工厂规模，为客户提供最佳服务的关键在于最大化 GPU 的生产力，”IREN 首席技术官 Denis Skrinnikoff 表示。“NVIDIA Minerva 让我们的运营团队能够统一查看网络、GPU 以及其上运行的任务，因此我们可以更专注于主动维护，而不是故障排查。这种可见性强化了我们为即将建设的基础设施所采用的运营模式。”

除 IREN 外，Aolani、Bitdeer AI、IBM、Jio、 Lambda、Quake AI 和 Tesla 也计划部署 Minerva。 

除 Dell Technologies 外，Lenovo 和 Supermicro 也将把 Minerva 作为其 AI 工厂运营产品组合的一部分提供。 

了解更多关于 NVIDIA Minerva 的信息。

查看 关于软件产品信息的通知。

阅读 NVIDIA 在欧洲的所有公告