跳到正文
arXiv cs.CL· Ali Kerem Bozkurt, Baris Cem Bakay, Ibrahim Kulac, Cigdem Gunduz-Demir, Erkut Erdem, Aykut Erdem·· 10 小时前AI 评分25

SLICEChat:面向全切片病理语言模型的编码器内渐进式 token 剪枝

SLICEChat: Progressive In-Encoder Token Pruning for Whole-Slide Pathology Language Models

AI 导读

SLICEChat 是一个在混合 Mamba-Transformer 切片编码器内集成渐进式 token 剪枝的切片级病理 MLLM,可在多模态融合前将 gigapixel 级全切片图像压缩为紧凑表示。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:全切片病理图像(WSI)包含千兆像素级的视觉内容,这给切片级多模态大语言模型(MLLM)带来了重大的可扩展性挑战。现有方法处理数千个图像块 token,并且通常只在切片编码之后才进行压缩,导致多模态注意力的计算开销高昂。我们提出 SLICEChat,一种切片级 MLLM,它在混合 Mamba--Transformer 切片编码器中集成了渐进式 token 剪枝。Mamba 层能够实现高效的长程传播,而 Transformer 层则在序列被逐步缩短的过程中保留全局交互。在各阶段之间,语言监督的区域感知剪枝在受控的保留率调度下移除空间上连贯的低效用区域,从而在多模态融合之前生成紧凑的切片表示。在 SlideBench VQA 上,SLICEChat 在 TCGA 上达到 79.84% 的准确率,在 BCNB 队列上达到 59.09%,优于先前的切片级病理 MLLM,并在 WSI-Bench 上取得最高的总体指标。在受评估的模型中,它还提供了具有竞争力的内存占用和推理延迟。这些结果证明了在千兆像素 WSI 上进行准确且计算高效的多模态推理。
评论: 已被 WACV 2027 接收 | 项目页面:此 https URL | 代码:此 https URL
主题: 计算机视觉与模式识别(cs.CV);计算与语言(cs.CL)
引用为: arXiv:2609.24894 [cs.CV]
  (或 arXiv:2609.24894v2 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2609.24894

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Ali Kerem Bozkurt [查看电子邮件]
[v1] 2026年9月21日星期一 16:59:06 UTC(20,022 KB)
[v2] 2026年11月4日星期三 11:15:01 UTC(20,017 KB)

来源:arXiv cs.CL · arxiv.org