跳到正文
arXiv cs.AI· Jiaqi Tang, Yu Wang, Yang Liu, Jing Tao, Fandong Zhang, Zhou Zhen, Xiahai Zhuang, Qingchao Chen, Yining Yang, Yizhou Yu·· 3 天前AI 评分24

3D 医学视觉基础模型自监督基准测试与可迁移性估计

Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation

AI 导读

研究在相同的 14 个分割、分类与回归任务上对 23 个 3D 医学基础模型候选进行基准测试,发现没有任何候选能在所有分割任务或所有分类回归任务中稳居前三。研究同时评测可迁移性估计器,其中 InsightRank 借助任务适配的冻结特征统计与架构感知成对比较,在 23 个模型池上分割任务平均 Kendall tau-b 为 0.431,分类与回归为 0.352。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:自监督预训练扩大了 3D 医学基础模型的候选范围,但已发表的评估使用了不同的数据集、终点和微调协议。模型在架构、预训练目标和数据上也各不相同,而下游目标从体素级掩码到患者级诊断和结局不等。因此,已发表的研究结果难以为新任务选择模型提供可直接比较的证据。直接比较适配性能需要在有标注的目标数据上微调候选模型,计算成本高昂。我们在相同的 14 个分割、分类和回归任务上对 23 个候选模型进行基准测试,这些任务涵盖多种解剖结构和模态。没有任何候选模型在所有分割任务或所有分类与回归任务中均位列前三;一个卷积编码器在某个任务上可以优于使用相同目标训练的 transformer,但在另一个任务上却表现更差。我们将可迁移性估计器与微调后的排名进行基准比较,发现它们的一致性在密集分割、分类和回归之间有所不同。InsightRank 使用适合任务的冻结特征统计和架构感知的成对比较,在微调前对候选模型进行排名。在 23 个模型的池中,分割的平均 Kendall tau-b 为 0.431,分类和回归为 0.352。分割任务的前三名在九个任务中的四个包含任务最优模型;图像级任务的前三名在五个任务中均未包含任务最优模型,尽管其完整排名一致性优于匹配的传统估计器。一个三模型候选名单将七个分割任务中记录的提取加训练作业时间减少了 85.8%。总之,该基准为模型选择提供了通用参考,InsightRank 提供了一种更低成本的方式来优先安排微调,其候选名单性能因目标类型而异。
学科: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2610.17573 [cs.CV]
  (或 arXiv:2610.17573v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.17573

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Jiaqi Tang [查看电子邮件]
[v1] 2026年10月13日星期二 01:52:19 UTC(1,884 KB)

来源:arXiv cs.AI · arxiv.org