arXiv cs.AI· Kai Sun, Peibo Duan, Zhanglu Yan, Guowei Zhang, Yongsheng Huang, Levin Kuhlmann·· 11 小时前AI 评分22
SpikeQ：面向脉冲神经网络的脉冲引导训练后量化框架
SpikeQ: Spike-Guided Post-Training Quantization for Spiking Neural Networks
AI 导读
SpikeQ 是一个脉冲引导的训练后量化（PTQ）框架，用于脉冲神经网络（SNN）。研究发现相同 MSE 的量化误差造成的精度损失差异很大，而翻转相同比例脉冲的误差损失一致，因此按下游神经元脉冲误差选择权重量化级别，并针对芯片在发放前比较阈值的特性构建 reset-aware 网格，使阈值落在舍入边界上。
正文 · AI 翻译
摘要：在神经形态芯片上，脉冲神经网络（SNN）的能耗远低于人工神经网络（ANN），但这类芯片内存有限，因此需要低位突触权重和膜电位。现有的训练后量化（PTQ）方法无需重新训练即可得到这些低位表示，并且与面向 ANN 的方法一样，会最小化均方误差（MSE）等数值误差。然而在 SNN 中，量化误差只能通过其翻转的脉冲传播到后续层。我们发现，MSE 相同的误差可能造成差异极大的精度损失，而翻转相同比例脉冲的误差则造成相同的损失。因此，我们提出 SpikeQ，一个由脉冲引导的 PTQ 框架。对于权重，我们通过模拟下游神经元并最小化其脉冲误差来选择每个权重的量化级别。对于膜电位，现有方法大多对复位后的状态进行量化，而神经形态芯片是将阈值与以固定位宽存储的膜电位进行比较。我们针对这种发放前量化，构建了一个感知复位的网格，将阈值置于舍入边界上，从而使舍入永远不会翻转当前时间步的脉冲。我们在图像分类、语义分割和目标检测的七个基准上评估 SpikeQ。在 2 位发放前膜电位下，所有现有网格都会失效，而 SpikeQ 保留了大部分全精度精度。当两者均为 4 位时，模型与全精度的差距保持在 2.59 个百分点以内，内存占用缩小 7.8--7.9 倍，能耗降低 6.4--6.9 倍。
| 主题： | 神经与进化计算（cs.NE）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV） |
| 引用为： | arXiv:2610.23046 [cs.NE] |
| （或 arXiv:2610.23046v1 [cs.NE] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23046 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Kai Sun [查看邮箱]
[v1]
2026年10月16日星期五 07:24:52 UTC（3,653 KB）
来源：arXiv cs.AI · arxiv.org