ActQuant：面向视觉-语言-动作模型的亚4-bit动作引导骨干权重仅量化
ActQuant: Sub-4-bit Action-Guided Backbone Weight-Only Quantization for Vision-Language-Action Models
ActQuant 是一个动作引导的混合精度 PTQ 框架，通过 inter-tensor 位宽分配与 intra-tensor 缩放优化，在 LIBERO 上成为唯一能在 3 bits-per-weight 及以下运行的方法，OpenVLA-OFT 保留 95.0%、π0.5 保留 94.8%。
作者：Arash Akbari、Arman Akbari、Masih Eskandar、Qitao Tan、Yixiao Chen、Jingwu Luo、Bertha Pangaribuan、Liyun Zhang、Jennifer Dy、Geng Yuan、Xue Lin、Gaowen Liu、Stratis Ioannidis、Yanzhi Wang
摘要：视觉-语言-动作（VLA）模型在具身智能中展现出卓越的动作生成能力，但其庞大的计算量使边缘平台部署变得不切实际。激进的低于 4 比特权重量化是自然的解决方案，然而现有的训练后量化（PTQ）方法在该区间性能严重下降。为此，我们提出 ActQuant，一个动作引导的混合精度 PTQ 框架，分两个阶段运行：（1）张量间比特分配器根据每个权重矩阵对预测智能体动作的贡献程度，为其分配单一比特宽度；（2）张量内尺度优化器利用动作感知曲率调整逐块量化尺度，使动态范围集中于对控制影响最大的权重上。为发挥激进量化在设备端的优势，我们进一步推出 this http URL，一个智能体化转换流水线，可将架构移植到原生 C/C++ 运行时并配备高效低位内核。我们在仿真环境和真实 6 自由度 UR3 机械臂上评估 ActQuant，所有模型均通过 this http URL 部署。在 LIBERO 基准上，ActQuant 是唯一能在每权重 3 比特及以下运行的方法，在 OpenVLA-OFT 上保持 95.0%，在 $\pi_{0.5}$ 上保持 94.8%。进一步推进，ActQuant 在 OpenVLA-OFT 上以 2.5 bpw 达到 90.1%，将主干网络从 14.3 GB 压缩至 2.7 GB（5.3$\times$）。在实体 UR3 机械臂上，经 ActQuant 量化的 $\pi_{0.5}$ 在保持基线成功率的同时将内存占用降低 2.5$\times$。
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2605.24011 [cs.CV] |
| （或本版本使用 arXiv:2605.24011v4 [cs.CV]） | |
| https://doi.org/10.48550/arXiv.2605.24011 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Arash Akbari [查看邮箱]
[v1]
2026 年 5 月 19 日星期二 19:57:26 UTC（1,871 KB）
[v2]
2026 年 6 月 4 日星期四 20:07:22 UTC（1,871 KB）
[v3]
2026 年 8 月 3 日星期一 19:37:08 UTC（1,871 KB）
[v4]
2026 年 11 月 5 日星期四 06:15:12 UTC（1,781 KB）
来源：arXiv cs.AI · arxiv.org