arXiv cs.AI· Hyunmin Kong, Gyutae Oh, Jitae Shin·· 10 小时前AI 评分22
基于漂移自适应表征保持的域增量学习方法
Drift-adaptive Representation Preservation for Domain-Incremental Learning
AI 导读
针对域增量学习中新域适配导致旧域性能退化的问题，研究者提出以表征漂移（过去概念当前表征与固定锚点的偏差）作为遗忘风险的可测代理，并按实测漂移分配保持强度：高漂移域类对获得更强的巩固损失，高漂移域在原型构建中被降权。
正文 · AI 翻译
摘要：预训练视觉模型提供了强大的通用表示，但在域增量学习（DIL）中，输入分布会依次变化，适应新域往往会降低在先前已学习域上的性能。我们观察到，遗忘在不同域和类别之间并不均匀，也无法仅用训练顺序来解释。这促使我们逐一跟踪每个过去的域-类别概念。我们使用表示漂移（定义为过去概念的当前表示与固定锚点之间的偏差）作为遗忘风险的可测量代理。测得的漂移随后发挥两个互补作用。整合损失对高漂移对赋予更强的保持力度，而原型构建则降低高漂移域的权重，以减少它们对类别参考的影响。因此，保持力度由测得的漂移而非假设的重要性来分配。为了在训练期间获得这一信号而不存储过去的原始数据，我们改造了联合嵌入预测架构（JEPA）。对于每个域-类别对，我们仅在骨干特征空间中存储紧凑的上下文摘要，并通过学习到的上下文到目标关系重新运行它，以测量其与固定锚点的漂移。在 DomainNet、Office-Home、CORe50 和 CDDB-Hard 上，我们的方法在每个基准上都保持了强大的准确率-遗忘平衡，使用的训练内存远少于准确率有竞争力的方法，并且在所比较的方法中存储量最小。
| Comments: | 已被 ACCV 2026 接收 |
| Subjects: | 计算机视觉与模式识别（cs.CV）；人工智能（cs.AI） |
| Cite as: | arXiv:2611.06093 [cs.CV] |
| （或 arXiv:2611.06093v1 [cs.CV] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06093 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Gyutae Oh [查看电子邮件]
[v1]
2026年11月4日星期三 07:37:56 UTC（4,689 KB）
来源：arXiv cs.AI · arxiv.org