跳到正文
arXiv cs.AI· Yun Zhu, Da Wang·· 12 小时前AI 评分38

TAD:仅用教师轨迹蒸馏视觉-语言-动作策略

TAD: Distilling Vision-Language-Action Policies from Teacher Trajectories Alone

AI 导读

TAD(Trajectory-only Adversarial Distillation)提出仅凭固定教师轨迹特征库蒸馏 VLA 策略,学生无需在线查询教师或环境任务奖励。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:视觉-语言-动作(VLA)策略的在线蒸馏通常依赖教师动作分数,而仅用于推理的接口可能不会暴露这些分数。仅基于轨迹的对抗蒸馏(\gad{})则改为将固定的教师关节位置特征库转化为自适应反馈:判别器比较教师与学生轨迹的特征边缘分布,并为同策略学习提供奖励。学生与环境交互时无需在线查询教师,也无需环境任务奖励。在 ManiSkill \texttt{PutOnPlateInScene25Main} 上,\gad{} 将 OpenVLA-OFT(7B)的 \successonce{} 从 $26.2\%$ 提升至 $76.6\%$($+50.4$ 个百分点),并将 \successend{} 从 $20.3\%$ 提升至 $58.6\%$。它落后于白盒同策略蒸馏(OPD)的 $81.6\%$ / $59.4\%$,差距为 $5.0$ / $0.8$ 个百分点(每个检查点 $n{=}256$ 条评估轨迹)。所测试的四轮续训在不增加教师数据的情况下取得了最高的 \gad{} 结果。这一最佳运行使用了 OPD 学生交互预算的 $5\times$ 及其完整轨迹批次传递次数的 $12.5\times$。该比较展示了无需教师评分的在线 VLA 改进,同时量化了不相等的交互与优化预算。
学科: 人工智能(cs.AI)
引用为: arXiv:2610.33650 [cs.AI]
  (或 arXiv:2610.33650v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.33650

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Da Wang [查看电子邮件]
[v1] 2026年10月24日星期六 13:05:18 UTC(279 KB)

来源:arXiv cs.AI · arxiv.org