跳到正文
arXiv cs.AI· Kun Yuan, Hao Ding, Yiqing Shen, Gasper Podobnik, Benjamin Killeen, Tito Porras, Axel Krieger, Mathias Unberath·· 11 小时前AI 评分34

InnerLogic-Surg:通过持续预训练构建的开放手术基础模型

InnerLogic-Surg: An Open Surgical Foundation Model via Continual Pretraining

AI 导读

InnerLogic-Surg 是一组开放的 21M–300M 参数手术视觉编码器,通过在 11,965 个网络手术视频(约 2,900 小时、超 15 种术式)的数百万张手术图像上持续预训练 Transformer 编码器得到。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:视觉基础模型是现代手术图像分析的主干,然而大多数手术系统仍依赖在自然图像上预训练的编码器,或依赖在相对较小的数据集上从零训练的专业模型。在大量手术专用数据上预训练编码器,有望仅通过提供更强的骨干网络来普遍提升手术图像分析方法的性能。在此我们提出 InnerLogic-Surg,一个开放的手术视觉编码器系列(21M--300M 参数),其获得方式是在数百万张手术图像上持续预训练一个基于 transformer 的图像编码器,这些图像整理自 11,965 个互联网来源的手术视频,总时长约 2,900 小时,涵盖超过十五种手术类型。我们的训练方案继承了 DINOv3 的预训练阶段,以在手术适配后保持表征能力,并额外应用了一个可学习的特征上采样模块,以较低的 token 成本实现高分辨率密集预测。在涵盖工作流、器械与解剖识别、分割、检测和单目深度的基准上,在相同架构下,最大的 InnerLogic-Surg 模型在所有 20 项手术任务中取得了最佳的线性探测性能。我们证明,手术持续预训练产生了可迁移的表征,能够跨手术类型、解剖区域和任务类型泛化,表明我们的手术图像编码器是传统上主导手术计算机视觉的特定手术表征学习方法的一种有前景且可扩展的替代方案。
学科: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2611.07883 [cs.CV]
  (或 arXiv:2611.07883v1 [cs.CV] 为本版本)
  https://doi.org/10.48550/arXiv.2611.07883

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Kun Yuan [查看邮箱]
[v1] 2026年11月5日 星期四 12:03:01 UTC(20,250 KB)

来源:arXiv cs.AI · arxiv.org