TRIAGE：VLA推理的token复用与剪枝混合策略

Sooyoung Kwon、Carlee Joe-Wong 与 Kyunghan Lee 提交论文，提出免训练的视觉-语言-动作（VLA）模型推理加速方法 TRIAGE：按 token 漂移阈值判断缓存 KV 是否仍有效，漂移低于阈值且缓存不过旧的 token 复用，其余剪枝，并固定重算 token 的预算。 论文称，该方法建立在“漂移低于阈值即可视为缓存有效”这一发现之上，但报道未给出加速幅度或精度影响的实测结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。