研究者提出多模态大模型幻觉模糊测试框架
热点事件持续更新
研究者提出多模态大模型幻觉模糊测试框架
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Pengfei Zhou 等作者提出面向多模态大语言模型的统一幻觉模糊测试框架，由细粒度数据集 UniHall 和自适应进化变异框架 SAMF 组成，覆盖 Object、Instruction、Knowledge 三个维度。 作者称，实验显示当前最先进的多模态大模型在该框架的模糊测试下性能显著下降，暴露出推理能力与事实 grounding 的脱节；研究还发现，强化学习对齐会加剧模型在指令遵循中的谄媚倾向。框架、代码与基准已开源。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
UniHall：面向多模态大语言模型的统一幻觉模糊测试框架报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.CLUniHall：面向多模态大语言模型的统一幻觉模糊测试框架
研究者提出统一幻觉模糊测试框架，包含细粒度数据集 UniHall 与自适应进化变异框架 SAMF，覆盖 Object、Instruction、Knowledge 三个维度。实验显示 SOTA 多模态大模型在模糊测试下性能显著下降，暴露出推理能力与事实 grounding 的脱节，并发现 RL 对齐会加剧指令遵循中的谄媚倾向。框架、代码与基准已开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。