跳到正文
RadarAI· 公众号:小红书技术(dots.llm)·· 3 小时前AI 评分38

小红书 AllSpark 提出 ROSS:让模型重学训练中自生成的 rollout

AI 导读

小红书 AllSpark Team 提出 ROSS,通过筛选训练中自生成 rollout 的有价值轨迹片段并保留完整上下文做选择性监督,让模型重新学习这些 rollout。基于 Qwen3.6-35B-A3B,该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%,MOPD 均分从 58.40% 提至 62.20%。

正文

公众号:小红书技术·2026-10-20 17:59· 31 分钟前AI 评分47

训练中自己生成的 Rollout,模型还能学到什么?小红书 AllSpark 提出 ROSS

AI 导读

小红书 AllSpark Team 提出 ROSS,让模型重新学习训练中自己生成的 rollout,通过筛选有价值轨迹片段并保留完整上下文做选择性监督。基于 Qwen3.6-35B-A3B,该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%,MOPD 均分从 58.40% 提至 62.20%。

来源:公众号:小红书技术 · mp.weixin.qq.com

来源:RadarAI · aihot.news