跳到正文
arXiv·· 12 天前AI 评分31

VisionWeave:将弹性视觉表示作为 MLLM 原生能力

VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs

AI 导读

VisionWeave 提出把弹性视觉表示作为多模态大模型的原生能力,以应对现有模型将输入编码为密集固定尺寸 patch token 带来的高成本问题。该方法针对视觉信息分布不均的特点,让需要细节的区域保留细粒度、其余区域采用紧凑表示,并指出已有 token 剪枝与自适应方案在内容自适应粒度、任务泛化和与现代 MLLM 及服务基础设施集成上仍受限。

来源:arXiv · arxiv.org