AWS 博客介绍在 EKS 上部署 Nemotron 3.5 Super VL

AWS 发布技术博客，介绍 NVIDIA Nemotron 3.5 Super VL 在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上的部署与性能评估方法。该模型已在 AWS 上线，为 120B 参数、每 token 激活 12B 的 MoE 多模态模型，支持文本、图像、文档和视频输入，上下文长度最高 1M tokens。 NVIDIA 公开了模型权重、训练数据集和后训练配方，用户可针对特定领域工作负载进行定制，并在自己控制的云基础设施上运行。aws-do-eks 项目提供了 Nemotron 3.5 Super VL 与 Nemotron 3 Ultra 的完整部署步骤，包括前置条件、集群创建、权重下载、部署、测试、基准测试和清理；用户可参照该实现，在自己的账户中部署。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。