arXiv cs.AI· Pavlos Poulos, Katelyn Sadorf, Themos Stafylakis, Costas A. Anastassiou·· 12 小时前AI 评分31
仿生听觉处理：并行 Resonate-and-Fire 动力学耦合三值循环网络用于语音识别
Bio-Inspired Auditory Processing: Coupling Parallel Resonate-and-Fire Dynamics with Ternary Recurrent Networks for Speech Recognition
AI 导读
研究者提出 Spiking Ternary GRU（stGRU）：由三值权重门控循环单元做时序滤波，下游 Resonate-and-Fire（RF）神经元生成二值脉冲流驱动下一模块的事件通路，使二值事件传输成为训练约束而非部署时的量化步骤。
正文 · AI 翻译
摘要：脉冲神经网络（SNN）有望通过稀疏的、事件驱动的计算实现高能效推理，但在连续且依赖上下文的任务（如自动语音识别，ASR）上仍受制约。一个关键瓶颈是泄漏积分点火（LIF）神经元，其膜电位衰减会在停顿和音素边界处抹除信息，而它又必须同时提取特征并保留长程上下文。受皮层将非线性滤波与胞体整合相分离的启发，我们提出了脉冲三值 GRU（stGRU）：由三值权重门控循环单元执行时间滤波，而下行谐振点火（RF）神经元生成二值脉冲流，驱动下一模块的事件通路。这使得二值事件传输成为训练时的原生约束，而非部署阶段单独的激活量化步骤；结合三值权重，学习到的投影避免了稠密的浮点矩阵乘加运算。在 LibriSpeech-960 上端到端训练后，Small、Medium 和 Large 三种 stGRU 在无外部语言模型的情况下，test-clean 上的 WER 分别达到 8.09%、7.04% 和 $6.44 \pm 0.17\%$。据我们所知，这是首批无需学习式 ANN 序列解码器、在 LibriSpeech 上实现个位数 WER 的无矩阵乘加脉冲网络。该架构在 Aishell-1 上从头训练时，test CER 达到 10.88%（dev 上为 9.28%）。在内部，训练后的网络形成了按深度分级的层次结构：浅层充当快速声学滤波器，而深层形成较慢的语义整合器，其潜在表示分离为词性流形和词级脉冲事件。深层放电率遵循具有稀疏梯度的对数正态分布，与在人体皮层中观察到的层次化处理相呼应。我们这种有生物学依据的架构将具有竞争力的 ASR 与有利的建模计算和内存开销相结合。
| 评论： | 22 页，6 幅图 |
| 主题： | 声音（cs.SD）；人工智能（cs.AI）；神经与进化计算（cs.NE）；音频与语音处理（eess.AS）；神经元与认知（q-bio.NC） |
| 引用为： | arXiv:2610.29720 [cs.SD] |
| （或 arXiv:2610.29720v1 [cs.SD] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29720 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Pavlos Poulos [查看邮箱]
[v1]
2026 年 10 月 21 日星期三 13:29:46 UTC（1,986 KB）
来源：arXiv cs.AI · arxiv.org