跳到正文
arXiv cs.AI· Yingxin Jia, Hui Geng, Wenxin Yang, Mohan Zhang·· 11 小时前AI 评分32

给模型一根手指:视觉语言模型计数能力的发展对齐评测

Give the Model a Finger: Developmentally Aligned Evaluation of Counting in Vision-Language Models

AI 导读

研究者用无视觉智能的图像工具为视觉语言模型搭建免训练智能体循环,让模型通过打点标记来计数,从而把原本隐藏的串行视觉推理过程变成可审计的痕迹。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:视觉语言模型(VLM)在小规模集合上表现精确,在较大规模集合上则滑向估算,这一特征让人联想到尚未掌握数数的儿童。儿童通过认知性动作跨越这一障碍:一边念数字词一边指向每个项目,把已数过的项目移到一边,对阵列进行分区。我们在一个无需训练的智能体循环中,把同样的动作交给 VLM,作为自身不具备视觉智能的笨拙图像工具。我们的核心主张关乎测量,而非干预:通过标记来数数的模型会在图像上留下一个通常隐藏的串行过程,而数数的发展原则将这些标记转化为对串行视觉推理的可解释审计:每个标签都对照点级真值分类为命中、重复、幻影或遗漏,答案与标签数量进行核对,并通过强制相反的遍历顺序来测试顺序无关性。在 9 个模型、682 张图像和 7 种测试装置条件下,我们发现:(i) 精确计数范围是模型特有的签名,跨度接近两个数量级(R80 从 3 到 150 个点);(ii) 作为干预手段,手指大多失败:标签在 9 个模型中有 4 个在小计数照片上有所帮助,会损害不精确的指针,且很少能胜过口头例行程序或盲点列表;该循环换来的是可审计的轨迹,而非准确率;(iii) 作为测量手段,它成功了:标签扰动探针显示,精确的指针会从标签上读出答案,指向精度与哪些模型受益相关,密集场景因遗漏而失败,且模型在看到自己的标签后很少修正;以及 (iv) 这些能力相互分离:模型遵循指示的遍历顺序,却常常在顺序反转时改变答案,而儿童在规则排列优于分散排列上的优势仅在例行程序下出现,并且在能击败“行数乘列数”捷径的网格中依然存在。
评论: NeurIPS 2026 Workshop BabyVLM
主题: 人工智能(cs.AI);计算与语言(cs.CL);计算机视觉与模式识别(cs.CV);机器学习(cs.LG);机器人学(cs.RO)
引用为: arXiv:2610.27756 [cs.AI]
  (或本版本使用 arXiv:2610.27756v1 [cs.AI])
  https://doi.org/10.48550/arXiv.2610.27756

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Yingxin Jia [查看邮箱]
[v1] 2026年10月20日星期二 07:19:03 UTC(1,718 KB)

来源:arXiv cs.AI · arxiv.org