跳到正文
arXiv cs.AI· Shreya Rajpal, Michal Golovanevsky, Carsten Eickhoff·· 3 天前AI 评分22

PRISM:标签引导的程序性与教学视频高效摘要框架

Less is More: Label-Guided Efficient Summarization of Procedural and Instructional Videos

AI 导读

PRISM 是一个零样本、免训练的程序性视频摘要框架,仅选取不到 5% 的视频帧即可保留超过 84% 的语义内容,较基线最高提升 7.5%。它通过轻量视觉过滤和动态生成的过程标签作为语义锚点,筛选有意义的帧-标签组,减少传入下游视觉语言描述阶段的视觉输入。该工作在 YouCook2、ActivityNet Captions 及外科手术视频数据集上验证了语义对齐与准确率表现。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:视频摘要将长视频转化为更易于记录和分析的简洁表示,在外科培训等高风险领域尤为重要。然而,长视频通常需要密集的帧处理或监督式训练流程,这可能计算成本高昂,并且仍可能遗漏重要的流程内容。我们提出 PRISM:通过集成语义与多模态分析进行流程表示,这是一个用于帧高效流程视频摘要的零样本、免训练框架。PRISM 仅选择不到 5% 的视频帧,同时保留超过 84% 的语义内容,并相较基线最高提升 7.5%。PRISM 并非穷尽式地处理帧,而是使用轻量级视觉过滤和动态生成的流程标签作为语义锚点,以选择有意义的帧-标签组。这种选择性推理设计保留了关键动作、转场和上下文细节,同时减少了传递给下游视觉-语言描述阶段的视觉输入数量。我们在 YouCook2 和 ActivityNet Captions 上评估 PRISM,并额外进行了关键帧选择基准和外科手术视频数据集的研究。在流程性和特定领域视频任务中,PRISM 实现了强大的语义对齐和准确性,表明通过将生成建立在动态生成的语义锚点上,可以实现高效的多模态视频理解。
评论: 18 页,6 幅图
主题: 计算机视觉与模式识别 (cs.CV);人工智能 (cs.AI)
引用为: arXiv:2601.12243 [cs.CV]
  (或 arXiv:2601.12243v3 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2601.12243

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Shreya Rajpal [查看电子邮件]
[v1] 2026年1月18日星期日 03:41:48 UTC(2,548 KB)
[v2] 2026年1月30日星期五 00:36:33 UTC(2,548 KB)
[v3] 2026年10月11日星期日 02:06:57 UTC(2,502 KB)

来源:arXiv cs.AI · arxiv.org