arXiv cs.AI· Xiao Cao, Fuchen Long, Yansong Qu, Wen Xiao, Xin Zhang, Xinlong Sun, Xi Chen, Zhiyong Huang·· 1 天前AI 评分40
VideoEditor-MoE:用混合专家架构扩展复杂视频编辑
VideoEditor-MoE: Scaling Complex Video Editing with Mixture of Experts
AI 导读
VideoEditor-MoE 是首个开源的视频编辑混合专家(MoE)框架,除稀疏 MLP-MoE 层外还通过 MoE-Attention 以路由 key-value 专家扩展注意力容量,同时保留视频 token 间的全局交互。
正文 · AI 翻译
摘要:复杂视频编辑需要在理解复杂指令的同时联合满足多个编辑请求。通过密集模型扩展来满足这些需求会大幅增加计算成本。我们提出 VideoEditor-MoE,这是首个用于视频编辑的开源混合专家框架。除稀疏 MLP-MoE 层外,MoE-Attention 通过路由的键值专家扩展注意力容量,同时保留视频 token 之间的全局交互。VideoEditor-MoE 从 5B 视频编辑模型初始化,扩展至 14B 和 56B 参数,两个变体每个 token 约激活 8B 参数。与现有方法以及两个互补基线 Explicit-MoE 和 MLP-MoE 的比较,评估了其相对于显式专家引导和仅 MLP 专家架构的优势。进一步分析表明所有专家均保持活跃,并揭示学习到的路由对样本内容和扩散噪声水平的响应强于对人类定义的编辑类别的响应。空间分析进一步表明其对对象级语义特征敏感。我们还发现解耦权重衰减是稳定专家扩展的一种策略。
| 学科: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI) |
| 引用为: | arXiv:2611.03043 [cs.CV] |
| (或 arXiv:2611.03043v3 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.03043 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自:Xiao Cao [查看邮箱]
[v1]
2026年11月2日星期一 12:42:51 UTC(6,654 KB)
[v2]
2026年11月9日星期一 13:11:07 UTC(6,658 KB)
[v3]
2026年11月11日星期三 11:48:20 UTC(6,655 KB)
来源:arXiv cs.AI · arxiv.org