跳到正文
arXiv cs.AI· Peng Zhang, Qian Chen, Xianyin Zhang, Yimin Tian, Ruite Fei, Dongyi Lv, Lifan Guo, Chi Zhang, Shuai Liu·· 10 小时前AI 评分31

Prism:面向统一多模态模型的双向自教学后训练方法

Prism: Bidirectional Self-Teaching for Unified Multimodal Models

AI 导读

Prism 是一种面向统一多模态模型(UMM)的双向自教学后训练方法,从模型自生成的交错轨迹中拆出文本链与图像链,按各自可靠性构建训练目标,无需外部验证器或人工标注的修正轨迹。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:统一多模态模型(UMMs)旨在在单一模型中同时支持视觉理解与生成。现有的后训练方法要么将理解作为固定的教师模型来提升生成,要么依赖真实轨迹来同时监督理解与生成。Prism 则从自生成的交错 rollout 中获取双向监督,根据其文本链和图像链的可靠性构建训练目标。我们提出 Prism,一种面向 UMMs 的双向自教学后训练方法。如同棱镜分解混合光,Prism 将耦合的交错轨迹解耦为文本链和图像链,评估每条链的可靠性,并根据其可靠性状态构建相应的训练目标。在 SenseNova-U1 和 BAGEL 上的实验表明,Prism 同时提升了理解与生成能力。在生成方面,SenseNova-U1 上 GenEval 从 85.8 提升至 89.2(+3.4),DPG 从 86.1 提升至 87.3(+1.2)。在理解方面,MME 总分从 2282.6 提升至 2311.6,MMVP 从 58.0 提升至 62.0。在 BAGEL 上也观察到一致的提升。这些结果表明,Prism 通过从自生成轨迹中构建可靠性引导的自训练目标,实现了生成与理解的协同提升,且在目标构建过程中不依赖外部验证器或外部标注的修正轨迹。
学科: 计算机视觉与模式识别(cs.CV);人工智能(cs.AI)
引用为: arXiv:2611.06343 [cs.CV]
  (或 arXiv:2611.06343v1 [cs.CV] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.06343

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Qian Chen [查看邮箱]
[v1] 2026年11月4日星期三 11:05:07 UTC(14,517 KB)

来源:arXiv cs.AI · arxiv.org