研究：预训练loss可预测RL后训练表现
热点事件持续更新
研究：预训练loss可预测RL后训练表现
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Jingyan Shen等作者发表论文，以国际象棋为受控实验平台，在5M至1B参数的语言模型上完整走完预训练、SFT与可验证奖励RL流程，考察预训练选择与强化学习后训练对推理能力的影响。 研究发现，给定RL算力下的后训练表现可由预训练loss较好预测，且RL奖励曲线斜率随预训练token数近似线性提升。作者称，此前RL后训练研究大多与先行的预训练割裂开来。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
从预训练到后训练：理解大语言模型的推理能力报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.CL从预训练到后训练：理解大语言模型的推理能力
研究以国际象棋为受控实验平台，在 5M 至 1B 参数的语言模型上完整走完预训练、SFT 与可验证奖励 RL 流程，发现给定 RL 算力下的后训练表现可由预训练 loss 较好预测，且 RL 奖励曲线斜率随预训练 token 数近似线性提升。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。