arXiv cs.AI· Xuhong Qiu, Zhuoyu Wu, Qiawei Zheng, Wenhui Ou, Wenqi Fang, Rapha\"{e}l C. -W. Phan·· 14 小时前AI 评分34
AGQ：面向视觉-语言-动作模型的动作引导超低位量化
AGQ: Action-Guided Ultra-Low-Bit Quantization for Vision-Language-Action Models
AI 导读
研究提出动作引导量化方法 AGQ，结合动作敏感性与权重恢复成本代理指标，在存储预算下分配矩阵位宽。在 LIBERO 上，AGQ 于 W3 达到 92.7% 任务成功率，分别超过 AWQ 和 GPTQ 1.2 与 3.7 个百分点，W2.5 下仍保留 70.5% 成功率。非对称配置 W1.5* 配合无损编码实现相对 BF16 的 6.10 倍整模型压缩，保留 25.5% 任务成功率。
正文 · AI 翻译
摘要：视觉-语言-动作（VLA）模型使机器人能够执行通过自然语言指令指定的任务，但其庞大的权重占用给在内存受限的板载平台上部署带来了挑战。超低位量化可减少这一占用，但保持任务性能和控制权重恢复成本仍然具有挑战性。我们提出动作引导量化（Action-Guided Quantization），它将动作敏感性与权重恢复成本的实测代理相结合，在存储预算下分配矩阵位宽。逐通道校准补偿量化误差，而每个矩阵内统一的位宽保持了规则的布局。位相关的分组无损编码减少了常驻权重存储，分块恢复限制了临时缓冲区。在 LIBERO 上，AGQ 在 W3 下达到 92.7% 的任务成功率，分别超过 AWQ 和 GPTQ 1.2 和 3.7 个百分点，并在 W2.5 下保持 70.5% 的成功率。一种非对称配置（记为 W1.5$^{*}$）使用 W4 视觉权重和语言权重的参数加权平均 1.5 位。结合无损编码，它相对于 BF16 实现了 $6.10\times$ 的完整模型压缩，同时保持 25.5% 的任务成功率。代码和实验结果可在 此 https URL 获取
| 评论： | 3 幅图，3 张表。代码和实验结果：此 https URL |
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.33074 [cs.CV] |
| （或 arXiv:2610.33074v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.33074 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Zhuoyu Wu [查看电子邮件]
[v1]
2026 年 10 月 21 日星期三 06:22:51 UTC（908 KB）
来源：arXiv cs.AI · arxiv.org