跳到正文
热点事件观察中

研究:推理模型在 token 空间寻路,RL 只求找到答案

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

一篇分析文章提出,推理模型在 token 空间里寻找路径:从提示 x 出发,采样路径 z 落入验证器判定正确的答案集合 S_x 即成功,成功率 p_x 是所有命中路径的概率之和。文章称,best-of-k 采样可把成功率从 p_x 提升到 1-(1-p_x)^k,但 RL 训练只最大化找到路径的概率,并不保证单条思维链收敛到正确答案。 文章用这一视角解释过度思考反而变差、思维链不忠实与 reward hacking 等现象。上述解释为文章作者提出的观点,并非已验证的结论。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. Hacker News
    推理究竟在求解什么目标?用 token 空间寻路视角重新理解推理模型

    文章提出把推理视为 token 空间中的寻路:每个采样路径 z 从提示 x 出发,落入验证器判定正确的答案集合 S_x 即成功,成功率 p_x 是所有命中路径概率之和。best-of-k 采样可让成功率从 p_x 升至 1-(1-p_x)^k,但 RL 训练只最大化找到路径的概率,并不保证单条链收敛到正确答案,这也解释了过度思考反而变差、思维链不忠实与 reward hacking 等现象。

本事件热度走势

可比范围当前
3
可比范围峰值
911月11日 06:00
近 24 小时变化
-50%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。