arXiv cs.CL· Hao Wang, Yangyang Liu, Xiaohu Zhao, Heng Liu, Zifu Shang, Tianhao Li, Ruize Gao, Jialong Tang, Liangying Shao, Haoran Wei, Baosong Yang, Linlong Xu, Longyue Wang, Weihua Luo·· 3 天前AI 评分30
Qwen-MT-Lumen 亮相 WMT2026：通过质量感知训练与同策略蒸馏实现指令专用翻译
Qwen-MT-Lumen at WMT2026: Instruction-Specialized Translation via Quality-Aware Training and On-Policy Distillation
AI 导读
阿里提交 WMT 2026 通用机器翻译共享任务的 Qwen-MT-Lumen，采用四阶段流水线：继续预训练与监督微调、将离线 M²PO 扩展为在线偏好优化、由更大教师模型向 Qwen3-14B 学生做同策略蒸馏，并以结构感知推理与选择性修复保证格式。
正文 · AI 翻译
作者：Hao Wang、Yangyang Liu、Xiaohu Zhao、Heng Liu、Zifu Shang、Tianhao Li、Ruize Gao、Jialong Tang、Liangying Shao、Haoran Wei、Baosong Yang、Linlong Xu、Longyue Wang、Weihua Luo
摘要：我们提出 Lumen，开源模型可在以下地址获取，这是我们提交给 WMT 2026 通用机器翻译共享任务的系统。我们聚焦于指令专用翻译，即系统必须在满足风格、术语和结构化输出等细粒度要求的同时，产出准确的翻译。Lumen 采用四阶段流水线。首先，持续预训练与监督微调共同增强多语言翻译能力以及遵循翻译特定指令（如术语、风格和格式约束）的能力。其次，我们将原本离线的 M^{2}PO 偏好优化框架扩展为在线偏好优化阶段：当前策略采样候选译文，由 LLM 评判器给出连续的直接评估分数，所得的多对偏好用于更新模型。第三，同策略蒸馏将更强的翻译指令遵循行为从更大的教师模型迁移到 Qwen3-14B 学生模型，在保留 14B 主翻译骨干的同时提升翻译指令遵循能力。最后，结构感知推理与后处理保留所需格式，而选择性修复在提交前处理明显的结构或解码失败。我们参与了 23 个翻译方向。在绝对 1--5 分的 LLM 评判标准下，该标准分别评估翻译指令遵循和翻译质量，Lumen 达到总体平均分 4.60。尽管使用 14B 翻译骨干，它在翻译质量和翻译指令遵循两方面均达到与领先专有系统相当的性能。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.19758 [cs.CL] |
| （或 arXiv:2610.19758v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.19758 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Hao Wang [查看电子邮件]
[v1]
2026年10月14日星期三 08:12:10 UTC（777 KB）
来源：arXiv cs.CL · arxiv.org