跳到正文
热点事件观察中

vLLM 称 Vera Rubin NVL72 上 DeepSeek-V4.1-Flash 吞吐达 GB300 58 倍

2 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

vLLM 团队发布工程实践文章称,在单台 NVIDIA Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,每 GPU 吞吐达 1.7M tokens/s、单用户 387 tokens/s,为 GB300 NVL72 的 58 倍;峰值吞吐 2.52M tokens/s,单用户最高 1,810 tokens/s。 文章称这套方案沿用了上月引入的同一技术栈,其中 HBM 池仍处于实验阶段。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. vLLM Blog精选
    vLLM 在 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash:单用户 387 tokens/s,吞吐达 GB300 NVL72 的 58 倍

    vLLM 团队在单台 NVIDIA Vera Rubin NVL72 机架上部署 DeepSeek-V4.1-Flash,每 GPU 吞吐 1.7M tokens/s、单用户 387 tokens/s,为 GB300 NVL72 的 58 倍,峰值吞吐 2.52M tokens/s、单用户最高 1,810 tokens/s。

11月11日
  1. vLLM Blog精选
    vLLM 在 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash:吞吐达 GB300 NVL72 的 58 倍,单用户 387 tokens/s

    vLLM 团队在单台 NVIDIA Vera Rubin NVL72 上服务 DeepSeek-V4.1-Flash,每 GPU 吞吐 1.7M tokens/s、单用户 387 tokens/s,为 GB300 NVL72 的 58 倍,峰值吞吐 2.52M tokens/s、单用户最高 1,810 tokens/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。