KV-PRM:用KV缓存替代文本重编码做过程奖励
热点事件持续更新
KV-PRM:用KV缓存替代文本重编码做过程奖励
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Peng Kuang 等作者提出过程奖励模型 KV-PRM,它不再重新编码文本,而是直接读取大模型生成阶段产生的 KV cache 来给推理步骤打分,把评分成本从 O(L^2) 降到 O(L)。 在 MATH、GSM8K、AIME 上,配合 Beam Search、MCTS、Weighted Voting 等测试时扩展方法,KV-PRM 的效果持平或优于文本 PRM;作者报告评分 FLOPs 最多降低 5,000 倍、延迟降低 37 倍、单序列内存占用降低 34 倍。
AI 根据报道生成 · 45 分钟前更新
最新进展11月5日 13:00
KV-PRM:通过 KV-Cache 传输实现多智能体测试时扩展的高效过程奖励建模报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.AIKV-PRM:通过 KV-Cache 传输实现多智能体测试时扩展的高效过程奖励建模
KV-PRM 通过直接读取 LLM 生成阶段产生的 KV cache 完成过程奖励打分,将评分成本从 O(L^2) 降至 O(L)。在 MATH、GSM8K、AIME 上,它在 Beam Search、MCTS、Weighted Voting 等 TTS 方法下持平或优于文本 PRM,评分 FLOPs 最多降低 5,000 倍、延迟降低 37 倍、单序列内存占用降低 34 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。