跳到正文
arXiv cs.AI· Wenju Sun, Qingyong Li, Boyang Li, Wen Wang, Siyu Zhang, Yi Wei, Yangliao Geng·· 2 天前AI 评分22

Co2In:结合知识编码、巩固与整合的双层记忆增量学习框架

Co2In: a Bi-level Memory Incremental Learning Framework with Knowledge Encoding, Consolidation, and Integration

AI 导读

受人类记忆机制启发,研究者提出增量学习框架 Co2In,采用工作记忆与长期记忆协同的双层架构,通过知识编码、巩固与整合实现高可塑性与稳定性的平衡。在 CIFAR-10、CIFAR-100 和 Tiny-ImageNet 的无样本 Class-IL 与 Task-IL 设置下,Co2In 取得 SOTA 性能且内存消耗高效。该工作已被 IEEE TPAMI 接收。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:增量学习(IL)旨在不断获取新知识(可塑性),同时保留先前学到的信息(稳定性)。然而,在可塑性与稳定性之间取得平衡仍然是智能系统面临的重大挑战。人脑实现了卓越的平衡,这得益于各种记忆单元协同编码和存储信息。受人类记忆机制启发,本文提出了一种具有知识编码、巩固与整合(Co2In)的增量学习框架。Co2In 被设计为双层记忆架构:用于自适应知识获取的工作记忆,以及专用于信息持久保留的长期记忆。这两个记忆模块在增量学习过程中协同工作。工作记忆首先从新数据中学习,将知识编码到参数中。随后,Co2In 执行巩固过程,以识别所学参数中的潜在模式,并将其重新表示为紧凑的知识表示。接下来,知识表示和识别出的模式被转换为独立的网络层,并整合到长期记忆中。这些设计使 Co2In 能够以高可塑性和稳定性积累知识。我们在无样本的类增量学习和任务增量学习设置下,在 CIFAR-10、CIFAR-100 和 Tiny-ImageNet 上评估了 Co2In。实验结果表明,Co2In 在高效内存消耗下达到了最先进的性能。
评论: 被 IEEE Transactions On Pattern Analysis and Machine Intelligence 接收
主题: 人工智能(cs.AI)
引用为: arXiv:2610.21804 [cs.AI]
  (或 arXiv:2610.21804v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.21804

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:WenJu Sun [查看电子邮件]
[v1] 2026年10月15日星期四 12:54:15 UTC(11,548 KB)

来源:arXiv cs.AI · arxiv.org