Hybrid Latent Attention：为循环语言模型压缩 KV cache

针对循环语言模型重复 T 次层堆叠导致 KV cache 扩大 T 倍、拖慢解码的问题，研究者提出 Hybrid Latent Attention（HLA）：在 W 个近期 token 的滑动窗口内保留精确的 key 和 value，更早的 token 则存为紧凑 latent，由每轮循环的 query 直接读取，无需重建 key 和 value。