arXiv cs.AI· Sooyoung Kwon, Carlee Joe-Wong, Kyunghan Lee·· 14 小时前AI 评分27
TRIAGE：VLA 模型推理需同时复用与剪枝视觉 token
TRIAGE: Efficient Vision-Language-Action Inference Needs Both Reuse and Pruning
AI 导读
TRIAGE 是一种免训练的 VLA 推理加速方法，按 token 漂移阈值区分复用缓存 KV 与剪枝，并固定重算 token 预算。
正文 · AI 翻译
摘要：视觉-语言-动作（VLA）模型越来越多地用于机器人操作，因为它们将相机图像和语言指令直接映射为动作。无法连接到工作站的机器人，例如移动操作机器人和人形机器人，必须在板载嵌入式主板上运行这些模型，而在每个控制步骤中处理数百个视觉 token 时，语言主干的预填充延迟会随之增长。为满足实时限制，免训练加速器只重新计算一部分视觉 token 并跳过其余部分，方式要么是剪枝，要么是复用其缓存的键值（KV）状态。这两种方式节省的计算量几乎相同，但现有方法对每个被跳过的 token 只应用其中一种。通过 token 级诊断，我们表明哪种方式能让动作更接近完全重计算，取决于该 token 的漂移，即其浅层值自缓存计算以来的变化。在测试的两个主干上，对漂移低于阈值的 token 进行复用并不比剪枝差，而超过该阈值时，复用导致的动作误差最高可达剪枝的 4.4 倍；同一诊断可为每个主干校准该阈值。基于这一发现，我们提出 TRIAGE，当缓存的漂移低于该阈值且缓存不太旧时，就认为该缓存有效。TRIAGE 重新计算固定预算的 token，优先处理缓存无效的重要 token，复用其他所有缓存有效的 token，并剪枝其余 token；仅剪枝和仅复用方法分别是这一划分的两个极端。由于预算固定了重新计算的 token 数量，它直接决定了预填充延迟。在 LIBERO 和 SimplerEnv 上，TRIAGE 的平均成功率与完全重计算相差不超过 3 个百分点，同时在 Jetson AGX Orin 上将预填充延迟最多降低 48%，并且仅重新计算 7% 的视觉 token 时，在 LIBERO-Object 上比最强基线高出 24.4 个百分点。
| 评论： | 8 页，6 张图 |
| 主题： | 机器人学（cs.RO）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.34519 [cs.RO] |
| （或 arXiv:2610.34519v1 [cs.RO] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.34519 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Sooyoung Kwon [查看电子邮件]
[v1]
2026 年 10 月 25 日星期日 19:22:02 UTC（1,589 KB）
来源：arXiv cs.AI · arxiv.org