arXiv cs.AI· Victor Cook (LIRMM | ADAC), Gilles Sassatelli (LIRMM | ADAC), Thierry Gil (LIRMM), Mohamed Watfa (LIRMM | ADAC), Marina Reyboz (CEA-LETI)·· 13 小时前AI 评分18
基于能量生成回放的 Equilibrium Propagation：面向 Hopfield 网络的边缘友好持续学习
Generative Replay for Equilibrium Propagation: Toward Edge-Friendly Continual Learning in Hopfield Networks
AI 导读
研究提出 Energy-Based Generative Replay（EB-Gen）策略，利用 Hopfield 网络自身的生成动力学，让单一模型同时充当分类器与回放样本生成器，无需外部数据缓冲或额外架构。在 Split MNIST 和 Split CIFAR10 的类增量设置中，该方法平均准确率分别达 75% 和 64%，在保持可塑性的同时显著提升稳定性。
正文 · AI 翻译
摘要：平衡传播（Equilibrium Propagation，EqProp）为训练 Hopfield 网络提供了一种具有生物学依据且与硬件对齐的反向传播替代方案。然而，其在持续学习场景中的行为在很大程度上仍未被探索。本工作从内部入手，直面 EqProp 训练的 Hopfield 网络中的灾难性遗忘问题，消除了标准经验回放（Experience Replay，\textbf{ER}）和生成回放（Generative Replay，\textbf{Gen-Replay}）必然需要的外部数据缓冲区或架构开销。我们引入了一种基于能量的生成回放策略（Energy-Based Generative Replay，\textbf{EB-Gen}），它利用 Hopfield 网络内在的生成动力学，使单个模型既能充当分类器，又能充当回放样本生成器。捕获过去任务知识的样本通过松弛网络的冻结副本生成，从而仅通过内部生成的伪数据即可实现复现。我们在类增量设置中评估了所提出的方法，使用 MNIST 和 CIFAR10 基准的拆分版本，并将其与 FineTune、经验回放、生成回放、类睡眠回放巩固（Sleep-Like Replay Consolidation，SRC）和联合训练进行比较。我们的结果表明，EB-Gen 在保持可塑性的同时显著提高了稳定性，在 Split MNIST 和 Split CIFAR10 上分别达到 75\% 和 64\% 的平均准确率。这些发现表明，平衡传播可以被调整以缓解灾难性遗忘，而无需放弃其最初引人注目的特性。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.37139 [cs.LG] |
| （或 arXiv:2610.37139v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.37139 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Victor Cook [查看电子邮件] [通过 CCSD 代理]
[v1]
2026 年 10 月 27 日星期二 12:35:20 UTC（238 KB）
来源：arXiv cs.AI · arxiv.org