arXiv cs.AI· Rachmad Vidya Wicaksana Putra, Shuochen Zhou, Muhammad Shafique·· 11 小时前AI 评分27
RobustNCL:用轻量级检测与修复策略提升瞬态故障下的神经形态持续学习可靠性
RobustNCL: Robustifying Neuromorphic Continual Learning under Transient Faults with Lightweight Detect-and-Cure Strategy
AI 导读
RobustNCL 框架通过轻量级检测与修复策略,提升神经形态持续学习(NCL)在 DRAM 片外存储器瞬态故障下的可靠性。该框架在权重读取时监测故障,检测到异常特征后以零值、最小/最大值或原始权重分布中最可能值三种方式修复,修复值存于抗辐射加固存储器。
正文 · AI 翻译
摘要:在神经网络中,持续学习(CL)是一种重要方法,使已部署的系统能够通过在运行时有效地从新的未见数据中学习,从而适应动态运行环境。最近,神经形态持续学习(NCL)概念作为一种能效更高的 CL 替代方案出现,它利用稀疏的基于事件的操作。然而,NCL 的性能可能会受到硬件平台中瞬态故障的损害,这些故障可能随时来自高能粒子撞击。目前,尚未研究瞬态故障下的 NCL 可靠性,因此相应的容错技术仍未被探索。为解决这一问题,我们提出了一种新颖的 RobustNCL 框架,通过轻量级的检测与修复策略,在硬件平台基于 DRAM 的片外存储器存在瞬态故障的情况下提高 NCL 可靠性。具体而言,它首先在从片外存储器访问权重数据期间监测故障的存在,然后在检测到异常特征时修复所访问的权重。它提供三种修复变体:替换为零、最小值/最大值,以及来自原始/干净权重分布的最可能值。为支持这一点,权重修复值存储在抗辐射存储器中。实验结果表明,在存在高故障率(例如,内存回放为 5x10^{-4})的情况下,RobustNCL 保持了接近无故障模型精度的高精度(即最佳 RobustNCL 变体的精度在 -0.5% 以内),并且在不同 NCL 方法和数据集(即 Split MNIST、Split Fashion-MNIST、Split CIFAR-10 和 Split CIFAR-100)上,相比未进行故障缓解的基线显著提高了精度,同时仅带来可忽略的延迟和能耗开销。这些结果表明,我们的 RobustNCL 框架是一种有前景的方法,可用于实现可靠且高能效的 NCL 系统。
| 评论: | 12 页,6 幅图,3 张表 |
| 主题: | 神经与进化计算(cs.NE);人工智能(cs.AI);机器学习(cs.LG) |
| 引用为: | arXiv:2610.31954 [cs.NE] |
| (或 arXiv:2610.31954v1 [cs.NE] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.31954 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Rachmad Vidya Wicaksana Putra [查看电子邮件]
[v1]
2026 年 10 月 22 日星期四 22:00:21 UTC(882 KB)
来源:arXiv cs.AI · arxiv.org