Artificial Analysis：DeepSeek V4.1 Flash 在 GB300 NVL72 上提速最高 1.5 倍

Artificial Analysis· @ArtificialAnlys · X·2026-11-07 04:33· 1 小时前AI 评分41

AI 导读

Artificial Analysis 测得 DeepSeek V4.1 Flash 在 GB300 NVL72 上的 AA-AgentPerf 速度一个月内提升最高 1.5 倍 tok/s/agent，单 agent 从 596 tok/s 升至 848 tok/s（1.42x）。

正文 · 原文

过去一个月，在 AA-AgentPerf（我们针对运行真实 agentic 编码工作负载的数据中心系统的基准测试）上，DeepSeek V4.1 Flash 在 GB300 NVL72 上的速度提升最高达 1.5 倍 tok/s/agent

这一提升来自更新的 vLLM 版本、GB300 上针对 DeepSeek V4.1 的新 vLLM 内核、FlashInfer 自动调优、更完整的 CUDA graph 覆盖、调优后的投机解码，以及在 NVIDIA 更新的 Dynamo + vLLM 配置中于同一批 GPU 上运行 prefill 和 decode

➤ 速度更快：单 agent 达 848 tok/s，高于此前的 596（1.42x）

➤ 吞吐更高：在每 agent 约 80 tok/s 时，每 GPU 吞吐约为原来的 1.6 倍

来源：Artificial Analysis · x.com