arXiv cs.AI· Reem Abdel-Salam, Ahmed H. Abdel-Gawad, Amr G. Wassal·· 3 天前AI 评分22
VLCQ：用可变长度编码实现深度神经网络训练后量化
VLCQ: Post-training quantization for deep neural networks using variable length coding
AI 导读
VLCQ 是一种放宽定点编码约束的训练后量化方法，通过可变长度编码在降低位宽的同时无需训练数据或模型微调。在图像分类、分割和检测任务上，其逐通道量化在多数模型上超越 FP32 精度和 PWLQ，相比 FP32 最高实现 6x 压缩、相比 PWLQ 最高 1.7x；以压缩优先时相比 FP32 最高达 12.25x 压缩，性能损失低于 4%。
正文 · AI 翻译
摘要：量化在将深度学习模型高效部署到资源受限设备上起着至关重要的作用。训练后量化无需访问原始数据集或重新训练完整模型。当前能够达到接近基线结果的高性能方法通常需要 INT8 定点整数。然而，以更低比特宽度实现更高模型压缩往往会导致显著的性能下降。在本文中，我们提出 VLCQ，一种放宽定点编码约束的训练后量化方法，通过可变长度编码实现更灵活的量化技术探索。该方法在降低比特宽度的同时达到有竞争力或更优的性能，且无需访问训练数据或进行模型微调。在图像分类、分割和目标检测上的大量实验表明，与最先进的训练后量化方法相比，VLCQ 提升了模型压缩率和准确率。对于逐通道量化，VLCQ 在大多数评估模型上超越了 FP32 准确率和分段线性量化（PWLQ），相比 FP32 实现最高 6 倍压缩，相比 PWLQ 实现最高 1.7 倍压缩。当以压缩优先且精度损失有限时，VLCQ 相比 FP32 实现最高 12.25 倍压缩，性能下降不到 4%。对于逐张量量化，VLCQ 与无数据量化（DFQ）具有竞争力，同时在不同任务和模型上提供更大的灵活性以实现更低的比特率。
| 评论： | 发表于 Future Generation Computer Systems，第 166 卷（2025 年），文章 107654 |
| 主题： | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI）；性能（cs.PF） |
| 引用为： | arXiv:2610.15092 [cs.CV] |
| （或 arXiv:2610.15092v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15092 arXiv 颁发的 DOI，经由 DataCite（待注册） |
|
| 期刊 参考： | Reem Abdel-Salam, Ahmed H. Abdel-Gawad, and Amr G. Wassal. VLCQ: Post-training quantization for deep neural networks using variable length coding. Future Generation Computer Systems, 166, 107654, 2025 |
| 相关 DOI： | https://doi.org/10.1016/j.future.2024.107654
链接到相关资源的 DOI |
提交历史
来自：Reem Abdel-Salam [查看电子邮件]
[v1]
2026 年 10 月 10 日星期六 18:02:45 UTC（2,866 KB）
来源：arXiv cs.AI · arxiv.org