研究对比RL与SFT微调模型的推理表征差异
热点事件持续更新
研究对比RL与SFT微调模型的推理表征差异
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Antyabha Rahman等作者发表研究，对比DeepSeek-Math-RL与DeepSeek-Math-Instruct两个模型，寻找强化学习训练与监督微调模型在数学推理上表现差异的内部表征根源。 研究发现，逐层线性探针在RL训练模型上预测答案正确性的准确率更高；均值消融实验显示，DeepSeek-Math-RL的准确率下降随层深增加，而Instruct版无此现象。
AI 根据报道生成 · 52 分钟前更新
最新进展11月11日 13:00
研究揭示 RL 与 SFT 微调模型数学推理表现差异的表征根源报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- arXiv cs.CL研究揭示 RL 与 SFT 微调模型数学推理表现差异的表征根源
研究对比 DeepSeek-Math-RL 与 DeepSeek-Math-Instruct 发现，逐层线性探针在 RL 训练模型上预测答案正确性的准确率更高，且均值消融实验显示 DeepSeek-Math-RL 的准确率下降随层深增加，而 Instruct 版无此现象。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。