GPU 显存为何显示满了却只存三成数据？理解 KV Cache 与 PagedAttention

教程从 GPU 显存看似占满、实际 token 数据却不多的现象出发，追溯 LLM 服务的 KV Cache 分配方式：预填充处理提示词，解码阶段复用已计算的键和值以避免重复计算注意力。PagedAttention 按需分配小块，让 KV Cache 容量真正可用；运维还需区分缓存被充分利用与请求排队、抢占带来的性能问题。