arXiv cs.AI· Jayjun Lee, Jessica Yin, Asif Rana, Nicholas Blauch, Octi Zhang, Sam Mady, Mohak Bhardwaj, Nima Fazeli, Nathan Ratliff, Karl Van Wyk, Ankur Handa·· 11 小时前AI 评分42
ADEPT:用强化学习预训练与后训练加速高自由度机器人灵巧操作
ADEPT: Accelerating Dexterity via Pre-Training and Post-Training using Reinforcement Learning
AI 导读
ADEPT 是一个大规模强化学习框架,先在通用物体重摆任务上预训练灵巧策略,再以其为先验后训练下游策略,避免每个新任务从零学习技能。该方法结合行为克隆蒸馏、critic 预热与保守的 on-policy 更新,解决朴素 RL 微调导致预训练能力快速退化的问题,并引入关节空间 Geometric Fabric 保障运动学灵巧性。
正文 · AI 翻译
作者:Jayjun Lee、Jessica Yin、Asif Rana、Nicholas Blauch、Octi Zhang、Sam Mady、Mohak Bhardwaj、Nima Fazeli、Nathan Ratliff、Karl Van Wyk、Ankur Handa
摘要:我们提出 Accelerating Dexterity via Pre-Training(ADEPT),一个大规模强化学习(RL)框架,用于在高自由度(DoF)机器人本体上学习可仿真到现实迁移的灵巧操作能力,能够直接基于原始视觉-触觉感知求解长时程任务。ADEPT 先在通用物体重摆放任务上预训练灵巧策略,再以该预训练行为作为先验,对下游策略进行后训练。ADEPT 能够学习多指机器人上从零开始难以发现的新行为,并避免为每个新的下游任务重复学习同一组技能。预训练策略可零样本完成下游任务中的重摆放阶段,但朴素的 RL 微调会在迁移过程中迅速削弱这一能力。我们通过一种稳定的后训练方案解决该问题,该方案结合行为克隆蒸馏、critic 预热和保守的 on-policy 更新。为安全地利用完整的运动学灵巧性,我们引入关节空间 Geometric Fabric,在 RL 策略与机器人之间进行协调。我们将后训练得到的教师策略蒸馏为具备感知能力的学生策略,并在两种本体上实现零样本仿真到现实迁移:配备两个 RGB 相机的 23 DoF Kuka-Allegro,以及配备两个 RGB 相机和五个基于视觉的触觉传感器的 29 DoF Flexiv-Sharpa,能够以人类水平的灵巧速度从具有挑战性的初始状态求解长时程任务。
| 评论: | 被 CoRL 2026 接收 | 项目页面:this https URL |
| 主题: | 机器人学(cs.RO);人工智能(cs.AI) |
| 引用为: | arXiv:2608.19182 [cs.RO] |
| (或 arXiv:2608.19182v2 [cs.RO] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2608.19182 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Jayjun Lee [查看邮箱]
[v1]
2026年8月19日星期三 17:55:06 UTC(18,995 KB)
[v2]
2026年10月16日星期五 07:12:42 UTC(18,991 KB)
来源:arXiv cs.AI · arxiv.org