arXiv·· 12 天前AI 评分31
VisionWeave:将弹性视觉表示作为 MLLM 原生能力
VisionWeave: Weaving Elastic Visual Representations as a Native Capability of MLLMs
AI 导读
VisionWeave 提出把弹性视觉表示作为多模态大模型的原生能力,以应对现有模型将输入编码为密集固定尺寸 patch token 带来的高成本问题。该方法针对视觉信息分布不均的特点,让需要细节的区域保留细粒度、其余区域采用紧凑表示,并指出已有 token 剪枝与自适应方案在内容自适应粒度、任务泛化和与现代 MLLM 及服务基础设施集成上仍受限。
来源:arXiv · arxiv.org