arXiv cs.AI· Erik Stolt, Sanja Karilanova, Ayca Ozcelikkale·· 11 小时前AI 评分20
基于 SSM 的脉冲神经网络模型级与层级闭环预测
Model- and Layer-Level Closed-Loop Forecasting with SSM-Based Spiking Neural Networks
AI 导读
研究提出模型级与层级两种闭环预测策略，将网络自身生成的数值反馈回网络作为观测输入，解决 SNN 自回归预测时缺少真实值的问题。在 ETT-small 基准上，两种方法在脉冲与连续激活下均与 S4 的 zero-masking 基线相当或更优，多数情况下可匹敌 SpaceTime。结果凸显连续激活与低比特量化激活之间的权衡，表明该类 Deep SSM 架构是具备竞争力的预测框架。
正文 · AI 翻译
摘要：深度状态空间模型（Deep SSMs）在处理具有复杂时间依赖关系的时间序列数据时，已展现出良好的性能和计算优势。脉冲神经网络（SNNs）构成了一类受生物启发的深度状态空间模型，其计算模块通过脉冲（即离散的单比特事件）而非连续激活函数进行通信。时间序列处理中一项尤为重要的任务是预测，即仅根据过去的观测值预测序列的未来值。然而，如何最好地利用 SNN 进行预测仍是一个未解问题，因为 SNN 数据处理的标准自回归特性需要用到在预测阶段不可用的值。本文针对这一挑战展开研究。我们探索了两种闭环预测策略，即将网络自身生成的值作为观测到的过去值反馈回网络：(i) 模型级闭环预测和 (ii) 层级闭环预测。我们在 ETT-small 数据集（时间序列预测的标准基准）上，分别在基于脉冲和连续激活函数的情况下评估了这些方法。我们将所提出的闭环方法与 SpaceTime 等最先进方法以及 S4 中的零掩码基线进行了比较。所提出的两种方法与 S4 的零掩码表现相当或更优，并且在大多数情况下与 SpaceTime 持平。这些发现凸显了连续激活与低比特量化激活之间的权衡，并表明所提出的深度状态空间模型架构为预测提供了一个具有竞争力的框架。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.28495 [cs.LG] |
| （或 arXiv:2610.28495v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.28495 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Sanja Karilanova [查看邮箱]
[v1]
2026年10月20日星期二 16:39:59 UTC（518 KB）
来源：arXiv cs.AI · arxiv.org