跳到正文
arXiv cs.MA· Hao Shi, Hong Yan, Xiaoyang Zhang, Qing Cui, Chao Huang·· 12 小时前AI 评分29

OACap:面向详细视频描述的字幕引导主动观察方法

OACap: Caption-Guided Active Observation for Detailed Video Captioning

AI 导读

研究提出 Observation-Adaptive Video Captioner(OACap),一种以字幕为中心的智能体,将缺失或缺乏支撑的信息转化为定向观察请求,借助时空工具获取证据并迭代验证修订字幕,在固定纯文本阅读器下提升通用视频理解基准表现。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:与查询指定感知目标的问答不同,开放式详细描述必须确定要获取哪些证据,以及如何将其整合为连贯的全局描述。我们提出 Observation-Adaptive Video Captioner(OACap),这是一个以描述为中心的智能体,它将缺乏支持或缺失的信息转化为有针对性的观察请求,使用时空工具获取证据,并迭代验证和修订描述。OACap 生成的描述使用固定的纯文本读取器,在通用视频理解基准上持续提升性能。为了更好地诊断其保留的信息,我们引入了 Factual-Semantic Captioning Bench(FSCap-Bench)。其 Core-Support Factuality Score(CSFS)将声明精确度与重要性感知的事实覆盖率相结合,并在 93.0-98.3% 的有效描述对上对四种受控扰动类型作出预期响应。其 Cross-Modal Semantic Round-Trip Score(CSRS)通过匹配源描述和恢复描述中的原子事实,经由视频-描述-视频-描述的往返过程衡量语义保留程度。二者共同将下游文本记忆效用与事实和语义保留联系起来。
评论: 14 页,4 幅图,4 张表。技术报告
主题: 计算机视觉与模式识别(cs.CV);计算与语言(cs.CL);多智能体系统(cs.MA);多媒体(cs.MM)
ACM 分类: I.2.10; I.2.7
引用为: arXiv:2610.29327 [cs.CV]
  (或 arXiv:2610.29327v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.29327

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Hao Shi [查看电子邮件]
[v1] 2026 年 10 月 21 日星期三 07:26:26 UTC(2,948 KB)

来源:arXiv cs.MA · arxiv.org