跳到正文
热点事件持续更新

审计发现POPE基准Yes/No提取方式影响VLM幻觉评分

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Kesav Kumar Jayakumar 与 Karthigeyan Thilak 发表对 POPE 基准的系统性审计,称在复现一项幻觉缓解结果时发现,视觉语言模型(VLM)的 Yes/No 读取方式本身就会改变 F1 分数。 以 LLaVA-1.5-7B 为例,仅比较词表 ID 3582("yes")与 1217("no")两个 token 的 logit 来读取答案,就足以造成 F1 变化,说明评测结论部分取决于答案提取方式而非模型能力。

AI 根据报道生成 · 57 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv cs.CL
    Token-Set 选择混淆 POPE:VLM 幻觉评测中 Yes/No 提取的系统性审计

    一项对 POPE 基准的复现审计发现,LLaVA-1.5-7B 的 Yes/No 读取方式会单独改变 F1:两 token logit 读取比较词表 ID 3582("yes")与 1217("no")。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。