奖励训练让14B模型学会守住证据边界
热点事件持续更新
奖励训练让14B模型学会守住证据边界
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
YaJie Yin 提交的预注册受控 knock-in 研究显示,在无形式化答案、未获评估邀请的行动压力场景下,对 14B 同族模型采用 SFT 后接 GRPO 的边界保持训练,可把证据充分性判断中的自发正确拒答率从基线 25% 提升至 100%(每组 40 例,Wilson 95% CI 下限 91.2%,与基线区间 [14.2%, 40.2%] 不重叠)。 作为对照,打乱配对的安慰剂组自发正确率降至 5%,误拒率达 91.1%。作者称该结果仅限这一受控的 14B 同族研究,不主张构成证明、跨族通用性或经独立人类专家验证,评分环节由模型而非人类评审完成。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 12:00
无形式化答案场景下的可训练边界保持:证据充分性判断中奖励训练的受控 knock-in 研究报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AI无形式化答案场景下的可训练边界保持:证据充分性判断中奖励训练的受控 knock-in 研究
一项预注册、同基座、受控 knock-in 的 14B 同族模型研究显示,采用 SFT 后接 GRPO 的边界保持方案,可将证据充分性判断中的自发正确拒答率从 25% 提升至 100%(每组 40 例,Wilson 95% CI 下限 91.2%,与基线区间 [14.2%, 40.2%] 不重叠),而打乱配对的安慰剂组降至 5% 自发正确、91.1% 误拒。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。