vLLM 修复混合模型前缀缓存全零块 bug

vLLM 修复了混合模型开启细粒度前缀匹配时的一个静默错误：缓存块在尚未写入时就被标记为可复用，导致同一步内第二个请求过早复制到全零块并从零继续，错误块还会留在缓存中供后续请求复用，而响应看起来一切正常。 修复方式是将复制源尚未写入的请求推迟到下一个调度步，等源块填充后再复制，PR 见 vllm-project/vllm#67451。在 GB200 上，修复前 32 次试验中复制源全为零，修复后为 0 次。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。