跳到正文
热点事件持续更新

SNAP:用模态内硬负样本改进视觉语言预训练

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Nikos Giakoumoglou 等作者提出 SNAP 方法,用于在视觉-语言预训练中生成硬负样本。该方法生成模态内硬负样本,且不涉及任一模态的匹配正样本。 作者称,此前合成硬负样本有两条路径:跨模态构造容易过易或把负样本拉向查询,模态内构造则可能混入匹配正样本;SNAP 的设计意在同时避开这两种失败模式。这一结论来自作者对六种表征空间合成策略的分析。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    合成硬负样本为何在视觉-语言预训练中有效?SNAP 方法解析

    研究分析六种表征空间合成策略后,提出 SNAP 方法生成模态内硬负样本,完全避免涉及任一模态的正样本,从而规避跨模态构造负样本过易或拉向查询、模态内构造混入匹配正样本两种失败模式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。