arXiv cs.AI· Dominik Dold, Dennis Elbr\"achter, Philipp Petersen·· 11 小时前AI 评分18
脉冲神经网络中因果片段数量的上界
Upper bounds on the number of causal pieces in spiking neural networks
AI 导读
研究推导出前馈单脉冲神经网络因果片段数量的两个互补上界。基于 poly-Bernoulli 数的组合上界适用于广泛脉冲神经元模型,量级为 e^{2(L-1)N log N+O(N)},其中 L 为网络深度、N 为最大层宽。
正文 · AI 翻译
摘要:单脉冲神经网络的输入空间可分解为因果片段,且已有研究表明,因果片段的数量为某些脉冲神经网络的逼近误差提供了一个下界。虽然这种分解适用于广泛的脉冲神经元模型,但脉冲神经网络能够实现多少因果片段的极限仍然未知。在本工作中,我们推导了前馈单脉冲神经网络中因果片段数量的两个互补上界。首先,我们建立了一个由多伯努利数给出的组合界,它适用于一大类脉冲神经元模型。该界的阶为 $e^{2(L-1)N\log N+\mathcal{O}(N)}$,其中网络深度为 $L$,最大层宽度为 $N$。其次,对于一组特定的神经元模型,我们推导了一个基于超平面排列的界。应用后一个框架,我们得到了阶为 $\mathcal{O}\!\left(N^{(4L-3)(N_0-1)}\right)$ 的界,适用于带指数突触的非泄漏积分发放模型和 ReLU 型脉冲响应模型;以及阶为 $\mathcal{O}\!\left(N^{L(N_0-1)}\right)$ 的界,适用于带 Dirac-$\delta$ 突触的泄漏积分发放模型,其中 $N_0$ 是输入维度。对于带 Dirac-$\delta$ 突触的非泄漏积分发放模型,额外的时间结构使我们能够将一般组合界收紧为仅依赖于 $N_0$、与网络深度和宽度无关的界。
| 学科: | 神经与进化计算 (cs.NE);人工智能 (cs.AI);机器学习 (cs.LG);神经元与认知 (q-bio.NC);机器学习 (stat.ML) |
| 引用为: | arXiv:2610.22484 [cs.NE] |
| (或 arXiv:2610.22484v1 [cs.NE] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.22484 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Dominik Dold [查看电子邮件]
[v1]
2026年10月15日星期四 18:00:11 UTC(109 KB)
来源:arXiv cs.AI · arxiv.org