vLLM 称 Vera Rubin NVL72 上 DeepSeek-V4.1-Flash 吞吐达 GB300 58 倍
热点事件观察中
vLLM 称 Vera Rubin NVL72 上 DeepSeek-V4.1-Flash 吞吐达 GB300 58 倍
2 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
vLLM 团队发布工程实践文章称,在单台 NVIDIA Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,每 GPU 吞吐达 1.7M tokens/s、单用户 387 tokens/s,为 GB300 NVL72 的 58 倍;峰值吞吐 2.52M tokens/s,单用户最高 1,810 tokens/s。 文章称这套方案沿用了上月引入的同一技术栈,其中 HBM 池仍处于实验阶段。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月12日
- vLLM Blog精选vLLM 在 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash:单用户 387 tokens/s,吞吐达 GB300 NVL72 的 58 倍
vLLM 团队在单台 NVIDIA Vera Rubin NVL72 机架上部署 DeepSeek-V4.1-Flash,每 GPU 吞吐 1.7M tokens/s、单用户 387 tokens/s,为 GB300 NVL72 的 58 倍,峰值吞吐 2.52M tokens/s、单用户最高 1,810 tokens/s。
11月11日
- vLLM Blog精选vLLM 在 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash:吞吐达 GB300 NVL72 的 58 倍,单用户 387 tokens/s
vLLM 团队在单台 NVIDIA Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,每 GPU 吞吐 1.7M tokens/s、单用户 387 tokens/s,为 GB300 NVL72 的 58 倍,峰值吞吐 2.52M tokens/s、单用户最高 1,810 tokens/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。