等算力协议重评GRPO密集奖励
热点事件持续更新
等算力协议重评GRPO密集奖励
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Vikash Singh等作者提出按生成token数和训练GPU小时匹配预算的“等算力协议”,在1,668次运行、六个模型上重新比较GRPO中的密集过程奖励与标准GRPO。 在Qwen2.5-1.5B上,Monte-Carlo奖励每次更新领先标准GRPO,但在等token预算下最终低14.3个百分点、等训练时间下低7.8个百分点;四种密集奖励变体均未超越GRPO。
AI 根据报道生成 · 53 分钟前更新
最新进展11月11日 13:00
在 GRPO 中,密集奖励值得消耗这些 token 吗?报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- arXiv cs.CL在 GRPO 中,密集奖励值得消耗这些 token 吗?
研究提出匹配算力协议,在 1,668 次运行、六个模型上重新比较密集过程奖励与 GRPO。在 Qwen2.5-1.5B 上,Monte-Carlo 奖励每次更新领先标准 GRPO,但在等 token 预算下最终低 14.3 个百分点、等训练时间下低 7.8 个百分点,四种密集奖励变体均未超越 GRPO。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。