arXiv cs.AI· Liuhaichen Yang, Zhuang Jiang, Chenchao Sheng, Ningwei Bai, Qichen Yin, Hanbo Ma, Junkai Liu, Junkai Sun, Dongcheng Lyu, Yi Dong, Zezhi Tang·· 10 天前AI 评分37
Guided Action Flow:为冻结的 VLA 策略提供价值引导采样
Guided Action Flow: Value-Guided Sampling for Frozen Vision-Language-Action Policies
AI 导读
Guided Action Flow(GAF)通过从机器人任务 rollout 中学习一个紧凑的观测条件动作价值 critic,用其动作梯度引导逆向流采样,全程不更新已监督微调的 VLA 参数。
正文 · AI 翻译
作者:Liuhaichen Yang、Zhuang Jiang、Chenchao Sheng、Ningwei Bai、Qichen Yin、Hanbo Ma、Junkai Liu、Junkai Sun、Dongcheng Lyu、Yi Dong、Zezhi Tang
摘要:强化学习可以在监督微调之外进一步提升视觉-语言-动作(VLA)策略,不过这通常涉及对策略参数的进一步更新。对于流匹配策略,迭代式动作生成提供了在推理过程中融入任务信息的额外机会。我们提出了引导动作流(Guided Action Flow,GAF),它从机器人任务轨迹中学习一个紧凑的、以观测为条件的动作价值评论器,并将其动作梯度用于引导反向时间流采样。在评论器学习和部署的整个过程中,经过监督微调的 VLA 保持冻结。物理机器人实验表明,在六项标称操作任务上,总体成功率从 60.0% 提升至 82.5%。在其中三项任务上评估的六种光照变化和物体干扰条件下,总体成功率从 34.2% 提升至 49.2%。消融实验和轨迹分析支持所学引导方向以及评论器视觉和本体感觉输入的重要性。在 0.45B 参数的 VLA 之外,仅有约 2.735M 可训练评论器参数,GAF 通过一个紧凑的推理时引导模块,使任务结果能够影响动作生成。
| 主题: | 机器人学(cs.RO);人工智能(cs.AI) |
| 引用为: | arXiv:2607.02092 [cs.RO] |
| (或使用 arXiv:2607.02092v4 [cs.RO] 引用此版本) | |
| https://doi.org/10.48550/arXiv.2607.02092 由 DataCite 提供的 arXiv 颁发 DOI |
提交历史
发件人:Liuhaichen Yang [查看电子邮件]
[v1]
2026年7月2日星期四 12:30:50 UTC(1,292 KB)
[v2]
2026年7月3日星期五 08:21:35 UTC(1,292 KB)
[v3]
2026年8月23日星期日 20:50:03 UTC(1,854 KB)
[v4]
2026年10月6日星期二 13:43:17 UTC(5,499 KB)
来源:arXiv cs.AI · arxiv.org