Hao AI Lab 披露 vLLM 流式会话越界写漏洞

UCSD Hao AI Lab 披露，vLLM 在处理流式输入时只校验每个新 chunk 的长度，不校验整个会话的总长度，因此超长会话的 token 数据会越界写入共享前缀缓存块；后续请求复用该块时，输出会被改变，而且不会报错。 该实验室作者称，限制 worker 写入并丢弃超出长度限制的 token 数据可以修复该问题，相关 PR 为 vllm-project/vllm#67457。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。