AWS 发布 Ray Train DLC 在 EKS 上分布式训练教程

AWS 发布教程，演示在 EKS 上用 Ray Train DLC 镜像（train-ml-cuda-v1.1）跨两台 g6.12xlarge 的 8 块 NVIDIA L4 GPU，以 PyTorch FSDP 微调 Qwen2.5-1.5B。该镜像内置 Ray 2.58.0、PyTorch 2.13.0、CUDA 13.0.2、NCCL 2.29.7 及 EFA 与 AWS OFI NCCL 插件，无需自行构建；镜像公开，节点无需凭证即可拉取。 运行条件：需在至少一个可用区提供 g6.12xlarge 的区域，为两台实例预留 96 vCPU 的 G 系列按需配额；GPU 实例运行期间每小时约 9.50 美元，含两台实例、EKS 控制面和 NAT 网关。deploy_all.sh 默认不执行训练作业。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。