跳到正文
arXiv cs.AI· Freek Byrman, Partha Das, Stijn Verdenius, Pascal Mettes·· 10 小时前AI 评分31

双曲视觉语言模型到底有多“双曲”?研究发现指数映射近似恒等

How Hyperbolic Are Hyperbolic Vision-Language Models?

AI 导读

研究检验 MERU、HyCoCLIP、ARGENT、PHyCLIP 四个双曲视觉语言模型发现,曲率进入网络的唯一操作指数映射可被恒等函数良好近似,推理时移除该映射评测分数不变。团队从零在 CC3M 上以相同层级损失训练欧氏 VLM,约最后 90% 训练步的统计量与双曲版本几乎无法区分,评测分数和径向分布也一致。结论是欧氏空间足以支撑当前实践的层级视觉-语言学习。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:双曲视觉-语言模型(VLM)已成为一个快速发展的研究领域,据报道其零样本性能强劲,同时具有可解释的嵌入空间,其中半径按通用性对表示进行排序。但双曲 VLM 在实践中究竟有多双曲?我们在指数映射处对此进行了研究,这是曲率进入原本为欧几里得网络的唯一操作。我们表明,在 MERU、HyCoCLIP、ARGENT 和 PHyCLIP 中,指数映射可被恒等函数很好地近似,即映射前欧几里得空间中的成对距离和角度在投影下几乎不变,并且在推理时移除该映射后评估分数保持不变。受此观察启发,我们在 CC3M 上从头训练欧几里得 VLM,并使用相同的层次损失。在大约最后 90% 的训练步骤中,训练统计量与双曲对应模型的统计量几乎无法区分,并且所得模型与评估分数相匹配,并恢复了相同的径向分布。我们的发现确立了欧几里得空间足以作为当前实践中所采用的层次视觉-语言学习的基底,并激发了新的范式,使双曲几何能够兑现其理论承诺。代码可在 此 https URL 获取。
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2611.13384 [cs.CV]
  (或 arXiv:2611.13384v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.13384

由 DataCite 颁发的 arXiv DOI(待注册)

期刊 参考: 神经表示中的对称性与几何 NeurIPS 研讨会(NeurReps)论文集。PMLR,2026

提交历史

来自:Partha Das [查看电子邮件]
[v1] 2026年11月10日星期二 00:01:33 UTC(917 KB)

来源:arXiv cs.AI · arxiv.org