arXiv cs.AI· Xinmeng Liu, Xianglong Yan, Kaicheng Yang, Weisheng Dong, Yulun Zhang·· 3 天前AI 评分25
HGA-Quant：面向自回归视觉生成模型的异构感知量化
HGA-Quant: Heterogeneity-Aware Quantization for AutoRegressive Visual Generation Models
AI 导读
研究者提出免训练 PTQ 框架 HGA-Quant，由尾部感知有界初始化网格精炼（T-BGR）与由粗到细激活精度调度（CAPS）组成，用于自回归视觉生成（ARVG）模型的低比特量化。在 Infinity 上，该框架以 W4A5.6 有效激活精度实现接近全精度的图像生成质量，而现有方法在 W4A6 下仍出现明显质量下降或表现不稳定。代码已开源。
正文 · AI 翻译
摘要：最近，自回归视觉生成（ARVG）模型已成为高质量图像合成的一种有竞争力的范式。然而，其巨大的计算和内存需求使其难以部署在资源受限的边缘设备上。训练后量化（PTQ）为降低 ARVG 模型的计算和内存成本提供了一种有前景的解决方案，但现有方法在低比特量化下往往会出现严重的图像质量下降。在本文中，我们提出了一种用于 ARVG 的免训练 PTQ 框架，由尾部感知有界初始化网格细化（T-BGR）和由粗到细的激活精度调度（CAPS）组成。T-BGR 为权重量化器校准引入了尾部感知重建目标，对分布尾部系数赋予更高的重要性，并在不引入额外参数或高精度分支的情况下保留细粒度信息。CAPS 通过联合考虑不同生成阶段的重要性和计算成本，执行由粗到细的激活精度调度，从而在给定比特预算下实现高效的混合精度分配。在多个 ARVG 主干网络上的大量实验表明，我们的框架在激进低比特量化下持续提升鲁棒性。值得注意的是，在 Infinity 上，我们的框架在有效 W4A5.6 激活精度下实现了接近全精度的图像生成质量，而现有方法在 W4A6 下仍表现出明显的质量下降或不稳定的性能。代码可在 此 https URL 获取。
| 学科： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.15297 [cs.CV] |
| （或 arXiv:2610.15297v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15297 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Xinmeng Liu [查看电子邮件]
[v1]
2026年10月11日星期日 03:04:56 UTC（31,125 KB）
来源：arXiv cs.AI · arxiv.org