跳到正文
arXiv cs.AI· Tuan Duong Trinh, Basim Azam, Mohammed Ishaq Ansari, Mohammed Yaqoob Ansari, Naveed Akhtar·· 9 天前AI 评分27

推理链作为视觉-语言-动作策略的控制面:DeepThinkVLA 在 LIBERO-Goal 上的反事实干预研究

Altered Thoughts, Altered Actions: Reasoning Chain as Control Surface for a Vision-Language-Action Policy

AI 导读

研究以确定性实体替换分别对指令和推理链进行修复与破坏双向测量,发现破坏推理链的代价集中在语言单独决定目标的 LIBERO-Goal 任务上。用 DeepThinkVLA 做反事实干预,让策略接收被破坏的指令但替换为干净指令下生成的推理链,挽回了 47.8 pp 的损失成功率,全部 10 个任务均朝预测方向移动,但仍比干净运行低 38.0 pp。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:视觉-语言-动作策略将相机图像和自然语言指令映射为机器人的运动动作。其中一些策略被设计为在行动前用文本进行推理,生成推理链并基于该推理链解码动作。引入这一设计的研究将推理链作为一种监督接口:人们可以阅读和编辑文本以纠正策略。编辑后的推理链对策略运动动作的影响——是修复还是破坏——迄今为止仅得到部分测量。我们通过确定性的实体替换,将其应用于策略接收的指令及其生成的推理链,从而测量修复和破坏两个方向。在全部四个 LIBERO 仿真套件中,四十项任务的观测背景表明,破坏推理链的代价集中在仅由语言决定目标的地方。在那里,我们在 LIBERO-Goal 上使用 DeepThinkVLA 进行反事实干预,选择它是因为其推理链以纯文本形式暴露。策略接收被破坏的指令,但其推理链被替换为当该指令干净时它所生成的推理链。这条反事实正确的推理链恢复了 47.8 个百分点的丢失成功率,这是我们预先注册的验证性测试。如果该推理链仅仅重述了相机图像已经确定的内容,那么替换不会带来任何改变。相反,所有 10 项任务都朝预测方向移动,尽管成功率比干净运行低 38.0 个百分点,这一差距我们此前预测为 5-15 个百分点。因此,推理链是一个有效的控制面:写入其中的文本可以驱动机器人,当文本正确时修复行为,当文本错误时破坏行为。是否暴露这样的控制面是一种部署权衡,而其中一部分现在可以被测量。
评论: 被 VLM4RWD 研讨会,NeurIPS 2026 接收
主题: 机器人学(cs.RO);人工智能(cs.AI);机器学习(cs.LG)
MSC 分类: 68T40
ACM 分类: I.2.9; I.2.6
引用为: arXiv:2603.12717 [cs.RO]
  (或 arXiv:2603.12717v3 [cs.RO] 用于此版本)
  https://doi.org/10.48550/arXiv.2603.12717

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Tuan Duong Trinh [查看电子邮件]
[v1] 2026年3月13日星期五 07:02:51 UTC(168 KB)
[v2] 2026年9月29日星期二 08:05:36 UTC(2,470 KB)
[v3] 2026年10月8日星期四 06:15:00 UTC(2,474 KB)

来源:arXiv cs.AI · arxiv.org