arXiv cs.CL· Aleix Sant, Jordi Luque, Carlos Escolano·· 12 小时前AI 评分29
面向 WMT 2026 MIST 开放式问答的保任务多语言指令微调
Task-Preserving Multilingual Instruction Tuning for Open-Ended QA in WMT 2026 MIST
AI 导读
研究团队用 LoRA 将 Qwen3-8B 适配到 WMT 2026 多语言指令共享任务，数据为组织方提供的 EuroAlpaca 与跨语言增强版 CrossEuroAlpaca，覆盖十种任务语言。
正文 · AI 翻译
摘要：本文介绍了我们参加 WMT 2026 多语言指令共享任务的提交。我们使用组织方提供的数据、EuroAlpaca（通过任务保持本地化创建的多语言指令数据集）以及 CrossEuroAlpaca（一种跨语言增强方法，为指令、上下文和回复分配不同的源语言和目标语言），通过 LoRA 对 Qwen3-8B 进行适配。我们的系统针对辅助数据中涵盖的十种共享任务语言进行开放式问答（QA-OEG）。在匹配解码条件下，适配使目标语言 QA-OEG 上的 Gemma-4 评判平均分相对基座模型提升了 7.8%。在使用 Aya 评估套件对所有共享任务语言进行的额外评估中，宏观平均 ROUGE-L 相对提升 41.5%，BERTScore-F1 相对提升 2.9%，目标语言的提升幅度更大。然而，这些增益因任务和语言而异。Gemma-4 分数在目标语言的 QA-OEG 和摘要任务上有所提升，但在目标语言的上下文接地问答以及非目标语言的全部三项任务上均有所下降。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.29926 [cs.CL] |
| （或 arXiv:2610.29926v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.29926 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Aleix Sant Savall [查看邮箱]
[v1]
2026年10月21日 星期三 16:02:34 UTC（33 KB）
来源：arXiv cs.CL · arxiv.org