跳到正文
10月15日周四
  1. vLLM Blog76

    vLLM 提出训练推理逐位一致的 RL 训练方案,DeepSeek-V4-Flash 上 diff 为 0

    vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生逐位相同的 logprob(diff = 0)。

    推荐理由:原文给出训练与推理逐位一致的具体做法与吞吐代价,可据此判断高性能 RL 训练中数值对齐的取舍。

10月9日周五
10月7日周三