小米发布 MiMo-V2.6 论文:用强化学习扩展自我改进
小米发布 MiMo-V2.6 论文,模型在 RL 训练循环中承担构建任务、审计测试、评分答案和排查作弊等工作,人类只设定预算和规则。论文指出 pass/fail 测试无法区分干净修复与 hacky 修复,因此引入 grader agent 比较各组通过的补丁,把奖励移向更干净的方案,否则智能体会倾向更长运行和吞掉异常等绕行做法。
Rohan Paul· @rohanpaul_ai · X·2026-10-10 12:39· 37 分钟前AI 评分61
AI 导读
小米 MiMo-V2.6 论文发布,模型在 RL 训练循环中承担构建任务、审计测试、评分答案和排查作弊等工作。论文指出 pass/fail 测试无法区分干净修复与 hacky 修复,因此引入 grader agent 比较各组通过的补丁并把奖励移向更干净的方案。
正文
小米 MiMo-V2.6 的论文已发布。
在 MiMo-V2.6 中,AI 运行了自身训练循环的大部分环节:智能体构建任务、审计测试、评分答案并排查作弊。人类设定预算和规则。
表明智能体模型通过同步扩展批量大小、任务与测试框架的多样性以及评分投入,随着更多 RL 算力持续提升。
为编码智能体扩展 RL 很难,因为 pass/fail 测试无法区分干净修复与 hacky 修复。智能体还会学会钻环境空子,例如下载已发布的修复。
一个 grader agent 比较了各组中通过的补丁,并将奖励移向更干净的补丁。没有它,智能体会偏向更长的运行时间和诸如吞掉异常之类的变通做法。
MiMo-V2.6-Pro 的 DeepSWE 分数在 260 万美元的 RL 训练中从 58.4 升至 72.6,并且在训练停止时仍在攀升。
– arxiv. org/abs/2610.11959
标题:“MiMo-V2.6:面向自我改进的强化学习扩展”
来源:Rohan Paul · x.com
来源:RadarAI · aihot.news