WAKMan：按实时流量选KV缓存淘汰策略

Suhas Kumar Morisetty 等作者提交论文，提出工作负载感知的 KV 缓存淘汰策略管理器 WAKMan。据论文，它无需知道请求类型或读取提示词，即可根据实时流量选择淘汰策略，平均将缓存命中率较 LRU 提升 5 个百分点，并在所比较的策略中取得最低的平均与最差情况最优性差距。

AI 根据报道生成 · 32 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。