arXiv cs.CL· Rui Liu, Tong Zheng, Jindong Gu, Zhipeng Wang·· 10 天前AI 评分27
CARE：为视觉-语言-动作模型推理加速提供认证
CARE: Certifying Acceleration for Vision-Language-Action Inference
AI 导读
针对 VLA 模型推理加速可能破坏原本可解任务的问题，研究者提出 CARE，通过配对 rollout 在标定集上给出有限样本保证，使加速导致的失败风险低于用户设定预算，并部署最快且通过认证的候选方案。
正文 · AI 翻译
摘要：尽管视觉-语言-动作（VLA）模型发展迅速，但在每个控制步骤都运行它们仍然代价高昂。先前的工作通过动作分块和视觉 token 剪枝等技术加速 VLA 推理，通常基于延迟和平均任务成功率进行评估。然而，加速可能会丢弃信息并破坏原始策略本可解决的任务，这一风险被平均指标所掩盖。衡量这些失败具有挑战性，因为动作偏差会在闭环轨迹中累积，这意味着任务失败只有在完整回合中才能观察到。因此，我们通过从相同初始条件进行配对 rollout，定义加速诱导的失败，追踪参考策略成功但加速策略失败的时机。为应对这一问题，我们提出了 CARE，一种用于认证加速器选择的方法。CARE 在校准集上使用配对 rollout，提供有限样本保证，确保加速诱导的失败风险保持在用户指定的预算之下。它部署最快的已认证候选方案，如果没有符合条件的则回退到参考策略。由于仅依赖最终结果和实测计算量，CARE 可原样适用于各种加速机制，而序贯检验和失败触发的参考 rollout 使认证成本保持在可承受范围内。在四个 LIBERO 套件上使用 OpenVLA-OFT，CARE 认证了 $9.0$--$10.8\times$ 的加速，同时保证（在 $95\%$ 置信度下）至少 $85.8\%$ 的参考策略已解决回合得以保留。在紧张的预算下，没有保证的选择器在多达 $75\%$ 的试验中超出预算，而 CARE 保持在预算之内，其序贯形式比穷举评估少用 $78.9\%$ 的 rollout。CARE 进一步推广到 $\pi_{0.5}$ 的流步数减少，以及 Crafter 中的 Qwen3.5-9B 和 Llama-3.1-8B 智能体。
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.08917 [cs.CL] |
| （或 arXiv:2610.08917v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08917 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Rui Liu [查看电子邮件]
[v1]
2026年10月6日星期二 18:00:05 UTC（2,105 KB）
来源：arXiv cs.CL · arxiv.org