arXiv cs.AI· Canmiao Fu, Chen Li, Guohui Zhang, Hao Lu, Hongyang Wei, Huadong Wu, Huaisong Zhang, Hubery Yin, Liyuan Cui, Qixin Yan, Tong Shao, Xiaoqiang Zhou, Xinhang Leng, Ying Zhang, Zhenhai Liu, Zhipeng Huang·· 11 小时前AI 评分58
WeLM-Image:面向视觉智能的统一图像生成模型
WeLM-Image: A Unified Image Generation Model towards Visual Intelligence
AI 导读
微信团队提出统一图像基础模型 WeLM-Image,把多模态理解融入文生图、指令编辑和多参考图合成,面向微信大规模消费级应用的单 GPU 部署。模型采用 Mixture-of-Transformers 骨干,存储参数 31.7B,每个目标 latent token 约激活 5.4B 生成参数,支持原生 1.5K 分辨率。
正文 · AI 翻译
作者:Canmiao Fu、Chen Li、Guohui Zhang、Hao Lu、Hongyang Wei、Huadong Wu、Huaisong Zhang、Hubery Yin、Liyuan Cui、Qixin Yan、Tong Shao、Xiaoqiang Zhou、Xinhang Leng、Ying Zhang、Zhenhai Liu、Zhipeng Huang
摘要:我们提出 \textbf{WeLM-Image},这是一个统一的图像基础模型,将多模态理解集成到文本到图像生成、指令引导编辑和多参考合成中。该模型专为微信大规模消费级应用中的单 GPU 部署而设计,将文本、参考图像和目标潜变量作为一个交错序列进行处理。Mixture-of-Transformers (MoT) 主干将共享注意力与独立的理解和生成参数相结合,以限制优化干扰。为每条路径配备 Mixture-of-Experts (MoE) 模块可提供稀疏容量,存储参数为 31.7B,每个目标潜变量 token 激活约 5.4B 生成参数。面向生成的数据引擎将基于知识的视觉词表与大规模视觉聚类相结合,以平衡语义覆盖和编辑任务,同时训练时评估指导迭代式数据精炼。双语标注和经过验证的编辑监督支持逐步训练至原生 1.5K 分辨率。我们分别使用基于评分标准和检查清单的奖励来优化生成和编辑,然后通过噪声感知的在线策略蒸馏整合这些专用策略。在报告的总体比较中,1536 分辨率模型在 PRISM-Bench、Qwen-Image-Bench 和 UnicBench 上于所评估的开源模型中排名第一。基于 MeanFlow 的少步蒸馏产生了 WeLM-Image-Turbo,其在单块 NVIDIA H20 GPU 上使用八个无引导步骤,可在 4.98\,s 内生成 $1024\times1024$ 图像。
| 主题: | 计算机视觉与模式识别 (cs.CV);人工智能 (cs.AI) |
| 引用为: | arXiv:2611.07392 [cs.CV] |
| (或 arXiv:2611.07392v1 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.07392 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Canmiao Fu [查看电子邮件]
[v1]
2026年11月5日星期四 03:41:53 UTC (26,708 KB)
来源:arXiv cs.AI · arxiv.org