跳到正文
只看教程#DeepSeek
  1. vLLM Blog76

    vLLM 提出训练推理逐位一致的 RL 训练方案，DeepSeek-V4-Flash 上 diff 为 0

    vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel，使 rollout 与训练对每个采样 token 产生逐位相同的 logprob（diff = 0）。

    推荐理由：原文给出训练与推理逐位一致的具体做法与吞吐代价，可据此判断高性能 RL 训练中数值对齐的取舍。

  1. vLLM Blog62

    vLLM 优化 DeepSeek-V4.1-Flash：智能体吞吐提升 5 倍

    vLLM 团队与 Inferact 在 DeepSeek-V4.1-Flash 发布后三周内完成优化，在 SemiAnalysis AgentX 智能体服务基准上低并发提速 1.9 倍、150 TPS 约束下吞吐提升 5.3 倍。

    推荐理由：原文逐项列出 vLLM 侧的系统优化与对应加速比，可据此判断长上下文智能体推理的部署成本走向。

已经到底了