研究：VLM幻觉检测内部信号依赖token位置

Allison Chen 等作者提交的论文分析了利用视觉语言模型内部信号检测幻觉的方法的鲁棒性。研究发现，仅用生成词的 token 位置这一朴素基线即可达到有竞争力的检测性能，部分方法实际依赖 token 位置作为捷径。 实验显示，强检测性能多由语言类幻觉驱动，依赖 token 位置的方法视觉根基更弱；当幻觉出现在文本响应较早位置时，这些方法的鲁棒性下降。作者还称，不同检测方法携带互补信号，将较弱方法加入高性能方法集成仍能带来性能提升。

AI 根据报道生成 · 58 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。