Info-GRPO 用互信息引导改进长链推理训练
热点事件持续更新
Info-GRPO 用互信息引导改进长链推理训练
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Junxing Hu 等作者提出 Info-GRPO 信息论训练框架，针对 GRPO 训练长链推理模型时易发生的策略崩溃问题，用潜变量与推理轨迹间的互信息引导探索，使多样性贯穿整条推理链，而非依赖逐 token 随机性。 在 AIME24 上，该方法在四个骨干模型上分别将 Avg@8 较 GRPO 提升 3.75%、1.66%、4.16%、4.17%；作者称其以 8 倍更少的样本达到与 GRPO 相同的多数投票准确率。代码与模型将公开。
AI 根据报道生成 · 44 分钟前更新
最新进展10月27日 12:00
Info-GRPO：用相关性感知探索解决长推理链训练中的策略崩溃报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv cs.CLInfo-GRPO：用相关性感知探索解决长推理链训练中的策略崩溃
针对 GRPO 训练长链推理模型易发生策略崩溃的问题，研究者提出 Info-GRPO，通过潜变量与轨迹间的互信息引导探索，让多样性贯穿整条推理链而非依赖逐 token 随机性。在 AIME24 上，该方法在四个骨干模型上分别将 Avg@8 较 GRPO 提升 3.75%、1.66%、4.16%、4.17%，并以 8 倍更少样本达到相同多数投票准确率。代码与模型将公开。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。