研究：推理模型“wait”标记源于训练数据而非强化学习

Zhizhuo Kou 等作者发表论文，追踪开放模型训练历史中“wait”一词的来源。研究发现，零强化学习几乎不会让模型自发产生“wait”标记：在缺乏该词的基座模型上，强化学习虽大幅提升 MATH-500 准确率，但“wait”仍近乎缺席，说明该标记主要来自训练数据而非强化学习。研究通过频率、位置、形式、用法等无标签指标及注入错误测试，对采样输出进行分析。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。