跳到正文
arXiv cs.AI· Gyutae Oh, Hyunmin Kong, Jitae Shin·· 10 小时前AI 评分22

Lamarck:面向无回放域增量学习的继承式适配器专家

Inherited Adapter Experts for Replay-Free Domain-Incremental Learning

AI 导读

Lamarck 用免训练的 Mahalanobis 路由器为每张测试图像选择专家,并通过在每个 ViT 深层模块后校正图像 token 的小型适配器增强专家,在 CDDB-Hard 上最终准确率提升 4.4 点。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:无回放的域增量学习在连续域上训练同一批类别的模型,且不保留早期图像。按域划分的学习器冻结预训练 ViT,并为每个新域训练一个额外的专家:即在该域上学习到的小规模参数集和分类头。测试图像不携带域标签,因此由路由器为每张图像选择一个专家。近期工作训练了该路由器。然而,与始终为每张图像选择其自身域专家相比,免训练的 Mahalanobis 路由器使所分析的学习器最终准确率损失不到 2.7 个百分点。限制准确率的是专家,而非该路由器。因此,我们的学习器 Lamarck 使用该路由器并强化专家。其适配器是小型可训练层,在每个深层 ViT 块之后校正每个图像 token,在深度伪造基准 CDDB-Hard 上使最终准确率提升 4.4 个百分点。此外,每个专家都从其前驱专家初始化,且不产生额外成本:各域共享其类别,因此被错误路由到较后专家的图像损失更小。在同一协议下与十二个冻结骨干基线相比,Lamarck 在 CDDB-Hard 上以 5.2 个百分点位居第一,在 DomainNet 和 OfficeHome 上位居第二,且平均准确率最高。
评论: 21 页(8 页正文,另加参考文献和补充材料),8 幅图,23 张表
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2611.24145 [cs.CV]
  (或 arXiv:2611.24145v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.24145

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Gyutae Oh [查看电子邮件]
[v1] 2026 年 11 月 18 日星期三 09:53:15 UTC(607 KB)

来源:arXiv cs.AI · arxiv.org