arXiv cs.CL· Divyanshu Bathla, Parag Singla, Jitin Singla·· 3 天前AI 评分31
回译依然有效：用单语数据提升 LLM 低资源机器翻译
Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs
AI 导读
研究提出用回译（BT）而非继续预训练来利用低资源单语数据：微调后的 LLM 翻译单语句子生成反向平行对，并与平行集更新交替进行。在 Odia 和 Swahili 上仅用 1K 平行对，BT 在领域内比继续预训练高出 7.7 至 16.4 个 XCOMET-XXL 分，还优于平行数据多 10 倍的模型。
正文 · AI 翻译
摘要：预训练大语言模型（LLM）在零样本和少样本设置下对许多任务都很有效。对于低资源语言的机器翻译，显而易见的选择是少样本提示和在小型平行集上微调。我们提出疑问：如果还能获得中等数量的低资源单语数据呢？我们认为，与其继续预训练，更有效地利用这些数据的方式是前 LLM 时代的反向翻译（BT）技术。当前微调后的 LLM 翻译每种语言的单语句子，由此产生的句对以相反方向训练它。平行集上的更新被交错进行以实现稳定学习。在 Odia 和 Swahili 上仅有 1K 平行句对的情况下，BT 在领域内比继续预训练到低资源语言高出 7.7 至 16.4 个 XCOMET-XXL 点。使用束搜索解码的中间翻译，它还优于平行数据多 10 倍的模型。从平行数据中检索的上下文示例进一步改进了 BT。我们还分析了单语文本的来源、质量和数量。在五种低资源语言上，以 Hindi 作为高资源对照，以及两个 3B 骨干模型，BT 相比仅平行微调将翻译到低资源语言的 XCOMET-XXL 提升了 16% 至 173%。对 Odia 和 Sanskrit 的盲人工评估与自动指标一致。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.18818 [cs.CL] |
| （或 arXiv:2610.18818v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18818 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Jitin Singla [查看电子邮件]
[v1]
2026年10月13日星期二 17:50:18 UTC（706 KB）
[v2]
2026年10月14日星期三 07:55:24 UTC（706 KB）
来源：arXiv cs.CL · arxiv.org