arXiv cs.AI· Jing Ding, Ziqiao Ma, Jiayuan Mao, Joyce Chai, Freda Shi·· 10 天前AI 评分22
Vision Transformers 如何通过转喻回路为抽象概念奠基
Metonymic Circuits for Abstract Concept Grounding in Vision Transformers
AI 导读
研究揭示 Vision Transformers 通过转喻机制为抽象概念奠基：抽象预测由具体可解释的锚概念（如用"火"关联"愤怒"）驱动。团队在 CLIP 和 DINO 视觉编码器上应用 Transcoders，追踪到结构化转喻回路——感知原语主导浅层，类物体锚点先于抽象目标出现，含渲染文字的图像则走独立的感知到文本路径。因果干预验证了转喻中间特征在抽象概念奠基中的功能作用。
正文 · AI 翻译
摘要：我们研究当训练数据提供的直接指称证据有限时，Vision Transformers 如何将抽象概念（例如 angry）落地。我们假设存在一种转喻式落地机制，其中抽象预测由具体、可解释的锚定概念（例如 fire）驱动，这些锚定概念将视觉信号与抽象语义连接起来。通过在 CLIP 和 DINO 视觉编码器上应用 Transcoders，我们恢复了可与更具体概念的语义标签相关联的中间特征，并追踪了它们在抽象概念识别所依赖的电路中的贡献。在精心策划的图标数据集上的实验揭示了结构化的转喻电路，其中感知基元在早期层占主导，而类物体锚定概念先于抽象目标出现。包含渲染文本的图像则转而采用一条独特的感知到文本的路径。因果干预进一步验证了转喻中间特征在抽象概念落地中具有功能性作用。
| 评论： | EMNLP 2026 主会。项目网站：this https URL |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.06928 [cs.AI] |
| （或 arXiv:2610.06928v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.06928 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jing Ding [查看电子邮件]
[v1]
2026年10月3日星期六 00:53:32 UTC（3,894 KB）
来源：arXiv cs.AI · arxiv.org