arXiv cs.AI· Jinwoo Chung, Jangho Kim·· 3 天前AI 评分22
面向低比特 Mamba 超分的硬件友好 Token-Group 激活量化
Hardware-Friendly Token-Group Activation Quantization for Low-Bit Mamba Super-Resolution
AI 导读
研究提出 Token-Group Quantization，一种硬件友好的激活 PTQ 框架，通过轻量预测器从 pre-scan 特征推断分组，静态近似 post-scan 分组 oracle，避免运行时统计收集与动态裁剪更新。
正文 · AI 翻译
摘要：基于 Mamba 的超分辨率模型是 Transformer 复原骨干网络的高效替代方案，但其低比特训练后量化仍具挑战性，因为选择性扫描——Mamba 的输入依赖状态空间算子——会在不同空间 token 上产生不同的激活范围。因此，单一的逐层裁剪范围难以匹配所有 token。我们提出 Token-Group Quantization，一种硬件友好的激活 PTQ 框架，它静态地近似一个硬件不友好的扫描后分组 oracle，其中具有相似偏好裁剪范围的 token 被分配到同一组。为避免静态低比特推理中的运行时扫描后分组，一个轻量级预测器从量化扫描路径之前可用的扫描前特征推断分组。在校准期间，我们通过聚类捕获相似舍入—裁剪行为的扫描后激活描述符来形成伪标签。在推理时，冻结的预测器将扫描前特征映射到分组，并从离线校准的组级裁剪边界表中选择条目，无需运行时统计收集、动态裁剪更新或扫描后分组分配。为解决低比特复原退化问题，我们进一步引入频率保持精炼（FPR）目标用于裁剪边界校准。FPR 对齐全精度教师与量化学生输出之间的傅里叶幅度和相位，以保持高频结构。在多种 PTQ 协议、比特宽度、骨干网络和任务上，我们的方法始终优于先前的 Mamba 和 SR PTQ 基线，可迁移到 Transformer SR 和 Vision Mamba 分类，可与基于旋转的量化组合，并在 Jetson Orin Nano 上相比 FP16 实现 2.23 倍加速。代码可在此处获取。
| 评论： | 被 NeurIPS 2026 接收。32 页，6 幅图。代码：此 https URL |
| 主题： | 人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.16261 [cs.AI] |
| （或 arXiv:2610.16261v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16261 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Jinwoo Chung [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 06:43:58 UTC（26,743 KB）
来源：arXiv cs.AI · arxiv.org