研究:推理模型在 token 空间寻路,RL 只求找到答案
热点事件观察中
研究:推理模型在 token 空间寻路,RL 只求找到答案
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
一篇分析文章提出,推理模型在 token 空间里寻找路径:从提示 x 出发,采样路径 z 落入验证器判定正确的答案集合 S_x 即成功,成功率 p_x 是所有命中路径的概率之和。文章称,best-of-k 采样可把成功率从 p_x 提升到 1-(1-p_x)^k,但 RL 训练只最大化找到路径的概率,并不保证单条思维链收敛到正确答案。 文章用这一视角解释过度思考反而变差、思维链不忠实与 reward hacking 等现象。上述解释为文章作者提出的观点,并非已验证的结论。
AI 根据报道生成 · 2 天前更新
最新进展11月11日 03:25
推理究竟在求解什么目标?用 token 空间寻路视角重新理解推理模型报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- Hacker News推理究竟在求解什么目标?用 token 空间寻路视角重新理解推理模型
文章提出把推理视为 token 空间中的寻路:每个采样路径 z 从提示 x 出发,落入验证器判定正确的答案集合 S_x 即成功,成功率 p_x 是所有命中路径概率之和。best-of-k 采样可让成功率从 p_x 升至 1-(1-p_x)^k,但 RL 训练只最大化找到路径的概率,并不保证单条链收敛到正确答案,这也解释了过度思考反而变差、思维链不忠实与 reward hacking 等现象。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 911月11日 06:00
- 近 24 小时变化
- -50%
02.557.510
12:0011月12日12:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。