跳到正文
arXiv cs.AI· David Rawlinson, Gideon Kowadlo·· 13 小时前AI 评分22

基于强化学习偏置感知的“情景式观察”方法提升小样本与持续学习并防止遗忘

Episodic looking - using reinforcement learning to bias perception enhances few-shot and continual learning with protection from forgetting

AI 导读

研究者提出基于互补学习系统(CLS)架构的方法,让短期记忆在长期记忆产出的泛化感知空间中工作,从而专注记忆近期输入并减少记忆间干扰。在图像分类任务上,该CLS模型在域增量持续学习中的抗遗忘能力优于基线ResNet长期记忆,小样本场景下的泛化效果也优于其他持续学习模型。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:在希望模型能够泛化与希望模型能够随着统计特性的变化持续适应近期输入之间,存在一个根本性矛盾。这些条件体现在少样本学习和持续学习设置中,可能会使学习到的表示产生偏差或受到干扰。这会损害模型对更广泛上下文的泛化能力,使模型无法克服输入方差。
本文提出了一种基于互补学习系统架构(CLS)的解决方案,其中短期记忆(STM)将泛化任务委托给缓慢的、统计性的长期记忆(LTM)。这种委托是通过在由 LTM 产生的稳健、泛化的感知空间中工作来实现的。通过这种分离,STM 可以专注于记忆近期输入并避免记忆之间的干扰。
我们表明,在图像分类任务上,所得的 CLS 模型在领域增量持续学习设置中比基线 ResNet LTM 更能抵抗遗忘,并且在少样本设置中比其他持续学习器更有效地泛化。
在持续设置中,总体准确率略低于现有的持续学习模型,但性能特征的组合有所不同。结果分析表明,该模型受限于 LTM 的表示和表示可塑性。在未来的工作中,我们将寻求通过将 STM 记忆重放给 LTM 来解决这个问题。
评论: 21 页,8 幅图
主题: 机器学习(cs.LG);人工智能(cs.AI)
MSC 分类: 68T05(主)68T07,68Q32(次)
ACM 分类: I.2.6;I.2.6;I.5.1
引用为: arXiv:2610.38577 [cs.LG]
  (或 arXiv:2610.38577v1 [cs.LG] 为此版本)
  https://doi.org/10.48550/arXiv.2610.38577

由 DataCite 颁发的 arXiv DOI

提交历史

来自:David Rawlinson [查看电子邮件]
[v1] 2026 年 10 月 28 日星期三 10:09:11 UTC(1,824 KB)

来源:arXiv cs.AI · arxiv.org