arXiv cs.AI· Owen Kwon, Pablo Ortega-Kral, Arthur Bucker, Jean Oh·· 14 小时前AI 评分36
一句话能修复什么?冻结 VLA 策略的失败分类与最小语言纠正
What Can One Sentence Fix? A Failure Taxonomy and a Minimal Language Correction for Frozen VLA Policies
AI 导读
研究对 OpenVLA-OFT 和 pi0.5 在分布外 LIBERO-90 任务上的失败进行分类,发现四类失败模式中只有“执行错位”能靠一句回顾性纠正修复:由 LLM 将这句话解析为动作维度、方向、幅度和时间窗口,作为冻结策略动作上的短偏置。
正文 · AI 翻译
摘要:当已部署的视觉-语言-动作(VLA)策略失败时,针对每个新场景重新微调代价高昂,而观察它的人通常能用一句话说出问题所在。我们探究这样一句话在冻结策略中能修复什么、不能修复什么。我们为 OpenVLA-OFT 和 pi0.5 标注了所有失败的 LIBERO-90 任务(分布外),发现失败可分为四种模式,其中只有一种——执行失准,即策略到达了正确目标,但对移动距离或力度校准有误——能通过一句话解决;其余三种缺少的是目标或计划,而非幅度。针对这一模式,我们定义了最窄的人类纠正:每个任务一句回顾性描述,由 LLM 将其落地为动作维度、方向、幅度项和时间窗口,转化为冻结策略动作上的一个短时偏置,之后策略便自行完成剩余部分,一个回合接一个回合。在其任务失败的 rollout 上重新执行,仿真中恢复了全部 139 个分布内失败中的 65 个,以及全部 328 个分布外失败中的 33 个;在真实 xArm7 上,机器人基座移动后,在两个同物体条件下均将抓取放置从 10/30 提升到 30/30,在新物体条件下从 2/30 提升到 24/30,而两个长时程任务在有纠正和无纠正时均保持 0/30,与分类预测一致。一个仅用朴素提示的 VLM 观察同样的失败并写出同类纠正,在多达 10 次尝试中均未恢复任何失败,这表明价值在于人对幅度和时机的校准感知,而非语言本身。视频:this https URL
| Comments: | CoRL 2026 Workshop on Learning from Corrections and Interventions。8 页,6 图。项目页面:this https URL |
| Subjects: | 机器人学(cs.RO);人工智能(cs.AI) |
| Cite as: | arXiv:2608.29967 [cs.RO] |
| (或 arXiv:2608.29967v2 [cs.RO] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2608.29967 arXiv 颁发的 DOI(通过 DataCite) |
Submission history
来自:Owen Kwon [查看邮箱]
[v1]
2026 年 8 月 30 日周日 18:54:03 UTC(4,410 KB)
[v2]
2026 年 10 月 23 日周五 23:18:11 UTC(6,581 KB)
来源:arXiv cs.AI · arxiv.org