跳到正文
arXiv cs.AI· Martin Schuck, Maks Sorokin, Simone Manni, Duy Ta, Angela P. Schoellig, Marco Hutter, Simon Le Cleac'H, Jan Br\"udigam·· 14 小时前AI 评分34

从 SMPC 演示中学习移动操作:稀疏奖励离线到在线 RL 方法

Learning Loco-Manipulation From SMPC Demonstrations With Sparse Offline-to-Online RL

AI 导读

研究团队提出用仿真中的 SMPC 作为自动专家生成大规模离线数据集,配合纯稀疏任务奖励训练离线到在线 RL 智能体,省去密集奖励塑形的人工调参。该方法将高层智能体与低层动态稳定控制器结合,学到的策略可超越原始最优控制教师。团队在配备机械臂的 Spot 四足机器人和 G1 人形机器人上成功部署了复杂移动操作技能。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:整合移动与操作能力对机器人自主性至关重要,但将标准强化学习(RL)扩展到复杂任务时,严重受限于缓慢且人工的密集奖励塑形过程。为绕过这一限制,我们完全在仿真中利用基于采样的模型预测控制(SMPC)作为自动化、可快速调优的专家,生成大规模离线数据集。由于这些数据解决了根本性的探索问题,我们可以仅使用稀疏任务奖励来训练离策略 RL 智能体,从而大幅减少学习新技能所需的时间,并消除人工调优的需要。将这一高层智能体与低层动态稳定性控制器相结合,可产生更优的行为,严格对齐真实任务目标,最终使学习到的策略超越原始最优控制教师。我们通过在不同形态上成功部署复杂的移动-操作技能,包括配备机械臂的 Spot 四足机器人和 G1 人形机器人,验证了该仿真到现实框架的鲁棒性。
评论: CoRL 2026 相机就绪版本
主题: 机器人学(cs.RO);人工智能(cs.AI)
引用为: arXiv:2608.12063 [cs.RO]
  (或此版本的 arXiv:2608.12063v2 [cs.RO])
  https://doi.org/10.48550/arXiv.2608.12063

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Martin Schuck [查看电子邮件]
[v1] 2026年8月12日星期三 13:48:56 UTC(40,902 KB)
[v2] 2026年10月26日星期一 11:46:26 UTC(40,903 KB)

来源:arXiv cs.AI · arxiv.org