跳到正文
arXiv cs.AI· Xiaolin Liu, Yilun Zhu, Xiangyu Zhao, Xuehui Wang, Yan Li, Xin Li, Haoyu Cao, Xing Sun, Shaofeng Zhang, Xu Yang, Zhihang Zhong, Xue Yang·· 2 天前AI 评分30

Moment-Video:诊断视频 MLLM 对瞬时视觉事件的时间保真度

Moment-Video: Diagnosing Temporal Fidelity of Video MLLMs on Momentary Visual Events

AI 导读

研究者推出 Moment-Video 基准,用于评估视频 MLLM 对瞬时视觉事件的时间保真度,包含 1,000 个人工核验的视频问答对,覆盖 7 个领域、25 个子类及四类任务。在 34 个专有与开源 MLLM 的评测中,表现最佳的 Seed-2.0-Pro 总体准确率仅 39.6%,多数开源模型低于 25%。诊断显示,即便采样帧覆盖全部标注事件区间,模型仍存在大量错误,且视频越长性能越差。

正文 · AI 翻译

作者:Xiaolin Liu、Yilun Zhu、Xiangyu Zhao、Xuehui Wang、Yan Li、Xin Li、Haoyu Cao、Xing Sun、Shaofeng Zhang、Xu Yang、Zhihang Zhong、Xue Yang

查看 PDF HTML(实验性)

摘要:视频多模态大语言模型(MLLM)在通用和长视频理解方面取得了快速进展,但其捕捉和利用简短、对答案至关重要的视觉证据的能力仍未得到充分探索。瞬时动作或状态转换可能决定答案,却只占视频的一小部分。仅在广泛的视频理解任务上表现良好,并不能证明模型能够可靠地识别和利用这种时间上局部化的证据。我们提出了 Moment-Video,一个通过瞬时视觉事件理解来评估时间保真度的基准。问题围绕视觉上可观察的事件或事件序列构建,要求模型注意、计数、描述或推理转瞬即逝的证据。该基准包含 1,000 个经人工验证的视频问答对,涵盖七个领域和 25 个子类别,覆盖四项任务:时间发生、时间计数、动作描述和时间推理。我们评估了 34 个专有和开源 MLLM。在主要评估设置下,表现最好的模型 Seed-2.0-Pro 达到 39.6% 的总体准确率,而大多数开源模型仍低于 25%。诊断分析表明,更密集的帧采样能改善部分模型,但即使采样帧覆盖了经审核子集中所有标注的必要事件区间,仍存在大量错误。在更长的视频上性能也会下降,表明还存在额外的时间定位挑战。通过揭示这些局限性,Moment-Video 提供了一个诊断性基准,以指导视频 MLLM 的评估和开发,使其能更可靠地理解简短、对答案至关重要的视觉事件。
评论: 31 页,12 张图,12 张表
主题: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2606.02522 [cs.CV]
  (或 arXiv:2606.02522v2 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2606.02522

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Yilun Zhu [查看邮箱]
[v1] 2026 年 6 月 1 日星期一 17:32:20 UTC(8,465 KB)
[v2] 2026 年 10 月 14 日星期三 16:51:52 UTC(8,883 KB)

来源:arXiv cs.AI · arxiv.org