Artificial Analysis 将 DeepSeek V4.1 Flash 纳入 AA-AgentPerf，GB300 吞吐领先

Artificial Analysis· @ArtificialAnlys · X·2026-10-14 15:04· 2 小时前AI 评分63

AI 导读

Artificial Analysis 将 DeepSeek V4.1 Flash 加入其智能体推理性能基准 AA-AgentPerf，榜单现覆盖四款模型。

正文

我们已将 DeepSeek V4.1 Flash 加入 AA-AgentPerf，并附上 NVIDIA 和 AMD 硬件上的结果。在每用户 100 tokens/s 下，NVIDIA GB300 位居第一，每兆瓦吞吐量最高可达 261M tokens/s。

AA-AgentPerf 是我们的智能体推理性能基准。它回放真实的智能体编程会话，包括提示缓存和工具调用延迟，以真实衡量日常智能体工作负载中的推理性能。我们测量每兆瓦运行时功耗的总系统吞吐量，以及不同并发水平下的单智能体输出速度，以展示系统利用率与单个用户体验之间的权衡。

DeepSeek V4.1 Flash 今日加入榜单。它使榜单上的重点模型达到四款，与 DeepSeek V4 Pro 0813、Kimi K3 和 GLM-5.2/5.3 一同在列。随着热门新开源权重模型的发布，我们会持续更新重点模型，并将在未来重大发布时提供首日结果。

DeepSeek v4.1 Flash 背景：

➤ 它在 Artificial Analysis 智能指数上得分 39，领先于 DeepSeek 早前的 V4 Pro 0813 的 36 分，而参数量约为其三分之一（552B“主干”和 16B 激活，对比 1.6T 和 49B）

➤ 它基于全新架构构建，采用因果编码器-解码器设计，每个输入 token 激活 8B 参数，每个输出 token 激活 16B 参数。它还额外使用 196B 参数的 Engram n-gram 记忆，这些记忆可驻留在主机内存而非加速器上，并采用压缩稀疏注意力，每个 token 所需的 KV 缓存仅为更早的 V4 Flash 模型的约四分之一

➤ 这使其服务效率大幅提升，因为权重可容纳在更少的 GPU 上，而更小的 KV 缓存为每块 GPU 上更多并发智能体留出了空间

DeepSeek V4.1 Flash 的 AA-AgentPerf 初步结果：

➤ V4.1 Flash 仅需 2 块 GPU 即可运行，因此机架级系统相比 B300 等 8-GPU 单节点优势更小，后者在整个曲线上与机架级 GB300 NVL72 的差距保持在约 20% 以内，并在两端均领先

➤ 在每用户 100 tok/s 下，GB300 以约 261M tokens/s 每兆瓦领先，其后是 B300（约 220M）、B200（约 193M）、GB200（约 178M）和 MI355X（约 128M）

➤ 每个 Blackwell 系统和 MI355X 都能为单个智能体（即批大小为 1 时）达到约 600 至 670 tok/s 的输出速度，而 H100 和 H200 为 372 至 392 tok/s

➤ V4.1 Flash 不仅比 V4 Pro 0813 更智能，服务成本也低得多，在每用户 100 tok/s 下，相比其更大的同门模型，每兆瓦吞吐量约为其 1.3 倍（GB300）至 6.2 倍（B200）

来源：Artificial Analysis · x.com