阶跃星辰发布 Step 5 Preview，获 NVIDIA Day-0 支持

StepFun· @StepFun_ai · X·2026-10-15 21:00· 2 小时前AI 评分62

AI 导读

阶跃星辰宣布 Step 5 Preview 支持多种部署方式，可通过 vLLM 或 SGLang 提供 OpenAI 兼容 API，也可用 Transformers 离线推理，并适配多种芯片平台和推理框架。

正文

按你的方式运行：

• 使用 vLLM 或 SGLang 提供 OpenAI 兼容 API
• 使用 Transformers 进行离线推理
• 适配多种芯片平台和推理框架

来自 @NVIDIAAI 的 Day-0 支持：
在 https://build.nvidia.com/stepfun-ai/step-5-preview 上试用，
使用 NeMo AutoModel 微调 https://github.com/NVIDIA-NeMo/Automodel/blob/main/docs/model-coverage/llm/stepfun-ai/step-5-preview.mdx，
使用 model-free NIM 部署 https://catalog.ngc.nvidia.com/orgs/nim/nvidia/containers/vllm-model-free-nim-experimental，
并在 Blackwell 上运行。

同样在 Day 0 可用的还有 @FireworksAI_HQ、@togethercompute、@modal、@DeepInfra 和 @FeatherlessAI。

来源：StepFun · x.com

NVIDIA 英伟达部署工程产品更新

#产品更新#部署/工程