arXiv cs.AI· Sida Li, Yuanxin Liu, Linli Yao, Shicheng Li, Xu Sun, Haoli Bai, Xiaohui Li·· 6 天前AI 评分24
AdaC-GRPO:用自适应课程学习攻克长程视觉数独难题
AdaC-GRPO: Towards Mastering Long-Horizon Visual Sudoku Puzzles via Adaptive Curriculum Learning
AI 导读
针对长程多模态任务中 RLVR 效果不足的问题,研究者提出 AdaC-GRPO,通过在线 rollout 准确率追踪模型的"最近发展区"来动态构建训练批次。
正文 · AI 翻译
摘要:虽然带可验证奖励的强化学习(RLVR)增强了大语言模型的推理能力,但其在长时程多模态任务中的效果仍未得到充分探索。视觉数独谜题构成了一项具有代表性的挑战,需要对局部约束和全局依赖链进行多步演绎推理。为此,我们提出了 FG-Sudoku,一个按网格大小和所需演绎步数分类的细粒度基准。评估表明,前沿多模态大语言模型在复杂的长程依赖(例如 9*9 谜题)上表现不佳。在后训练期间,这种近乎为零的成功率导致严重的奖励稀疏,使标准 RLVR 停滞。我们提出自适应课程组相对策略优化(AdaC-GRPO)来克服这一问题。与固定或基于先验的调度不同,AdaC-GRPO 通过在线 rollout 准确率追踪模型的“最近发展区”,动态构建训练批次。实验表明,AdaC-GRPO 使 Qwen2.5-VL-7B 接近 Gemini-2.5-Flash 的性能,同时弥合了与 Gemini-2.5-Pro 之间 62.2% 的整体准确率差距,其泛化能力还在 InternVL-3.5 和 Qwen3-VL 上得到进一步验证。
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.13184 [cs.AI] |
| (或 arXiv:2610.13184v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.13184 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Sida Li [查看邮箱]
[v1]
2026年10月9日星期五 08:08:42 UTC(1,297 KB)
来源:arXiv cs.AI · arxiv.org