arXiv cs.AI· Michael Schroeder·· 10 小时前AI 评分31
为何 Sub-4-Bit 视觉 CNN 会崩溃,混合精度恢复又止步于何处
Why Sub-4-Bit Vision CNNs Collapse and Where Mixed-Precision Recovery Stops
AI 导读
研究系统分析了 ResNet、EfficientNet 等视觉 CNN 在低于 4-bit 量化下的崩溃机制,在 ImageNet-1k 全部 50,000 张验证图上发现崩溃呈高度非线性,集中在后期 pointwise projection 与 depthwise 层。
正文 · AI 翻译
摘要:在资源受限环境中运行的深度视觉模型严重依赖低位量化,然而将权重量化到 4 位以下常常引发灾难性的精度崩溃。尽管混合精度恢复策略旨在通过选择性保留高精度参数来挽救精度,但这些模型在何处以及为何崩溃的基本机制仍鲜为人知。在本研究中,我们系统分析了在完整的 50,000 张图像 ImageNet-1k 验证集上评估的标准视觉 CNN(包括 ResNet 和 EfficientNet 骨干网络)中量化崩溃的解剖结构。首先,我们绘制了退化的精确进程,证明崩溃高度非线性,并集中在后期逐点投影和深度可分离层中。其次,我们引入了一种结构化的多步恢复瀑布,评估选择性整数精度(INT4/INT8)和选择性浮点缩放。我们表明,将不到 5% 的关键层激活保持在 8 位精度,可恢复激进亚 4 位压缩期间损失的精度的 92%。最后,我们通过在标准 ARM 和 x86 CPU 架构上评估部署性能,弥合了硬件现实差距。我们表明,虽然低位量化降低了内存存储需求,但标准运行时软件位解包会引入 1.48 倍至 21.5 倍的执行减速,具体取决于批大小,这凸显了模型占用空间与实际边缘吞吐量之间的关键权衡。我们的发现为在不牺牲硬件性能的情况下驾驭亚 4 位部署的极限提供了实用蓝图。
| 评论: | 8 页,6 幅图,2 张表 |
| 主题: | 人工智能(cs.AI);计算机视觉与模式识别(cs.CV);机器学习(cs.LG) |
| 引用为: | arXiv:2611.23445 [cs.AI] |
| (或 arXiv:2611.23445v2 [cs.AI] 为此版本) | |
| https://doi.org/10.48550/arXiv.2611.23445 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Michael Schroeder [查看电子邮件]
[v1]
2026 年 11 月 17 日星期二 19:49:27 UTC(77 KB)
[v2]
2026 年 11 月 19 日星期四 14:30:24 UTC(77 KB)
来源:arXiv cs.AI · arxiv.org