跳到正文
arXiv cs.AI· DoYoung Kim, Changkyu Choi, Ad\'in Ram\'irez Rivera, YunSeok Choi, Jee-Hyong Lee·· 3 天前AI 评分27

Know-Thy-Not:双编码器视觉语言模型的无训练定向否定

Know-Thy-Not: Training-Free Targeted Negation in Dual-Encoder Vision-Language Models

AI 导读

双编码器视觉语言模型在否定理解上系统性失败,对"没有狗的猫"和"有狗的猫"打分几乎相同,该问题源于单嵌入框架的固有缺陷。研究者提出无训练方法 Know-Thy-Not(KTN),在图像侧引入拒绝维度直接惩罚被否定概念,并发布首个需要真正拒绝才能通过的基准 COCO-Confusion。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:双编码器视觉语言模型在否定处理上系统性失败,对“一只猫没有狗”和“一只猫有狗”的评分几乎相同。我们表明,这一失败是单嵌入框架所固有的。在对比训练下,单嵌入方法最多只能忽略被否定的概念(稀释),但永远无法惩罚其存在(拒绝)。我们提出 Know-Thy-Not(KTN),一种无需训练的方法,引入图像侧拒绝维度,直接在视觉表示中惩罚被否定的概念。我们还提出了 COCO-Confusion,这是首个需要真正拒绝才能成功的基准。在 9 个骨干网络上,KTN 将 COCO-Confusion mAP 相比原始 VLM 提升最多 +25.6,相比最强现有方法提升 +9.6。
评论: 9 页
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2610.17440 [cs.CV]
  (或 arXiv:2610.17440v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.17440

arXiv 颁发的 DOI,通过 DataCite(待注册)

提交历史

来自:DoYoung Kim [查看电子邮件]
[v1] 2026 年 10 月 12 日星期一 21:58:20 UTC(4,575 KB)

来源:arXiv cs.AI · arxiv.org