跳到正文
arXiv cs.CL· Wen Yang, Junhong Wu, Chong Li, Chengqing Zong, Jiajun Zhang·· 12 小时前AI 评分31

以英语为中心的 LLM 跨语言数学推理迁移效果如何?

How Well Does Mathematical Reasoning Transfer Across Languages in English-Centric LLMs?

AI 导读

研究评估了以英语为中心的 LLM 在多语言数学推理基准上的跨语言迁移,发现迁移效果随初始模型、目标语言和训练范式差异很大。更强的英语初始化并不必然带来更高的相对迁移效率,即使其多语言推理准确率更高。最大提升来自突破纯英语监督:加入一种平行语言即可带来显著增益,继续增加语言收益更小但稳定。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:强化后训练(RPT)的最新进展大幅提升了大语言模型(LLM)的数学推理能力,但这些收益在跨语言上的迁移效果仍不清楚。在本工作中,我们在受控的多语言评测下,研究以英语为中心的 LLM 中的跨语言数学推理迁移。我们首先在多语言数学推理基准上评测了一系列以英语为中心的推理模型,发现迁移效果在初始模型选择、目标语言和训练范式之间差异很大。通过受控对比实验,我们进一步发现,更强的以英语为中心的初始化并不一定带来更强的相对迁移效率,即使它能带来更高的多语言推理准确率。最后,我们表明最大的提升来自超越仅英语监督:加入单一平行语言即可带来显著收益,而来自更多语言的进一步收益较小但稳定。总体而言,我们的结果凸显了直接评测多语言数学推理的必要性,需同时使用绝对性能和相对迁移效率指标。
评论: EMNLP 2026 Main 的 Camera ready 版本
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2510.02272 [cs.CL]
  (或本版本的 arXiv:2510.02272v2 [cs.CL])
  https://doi.org/10.48550/arXiv.2510.02272

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Wen Yang [查看邮箱]
[v1] 2025年10月2日 星期四 17:49:49 UTC(252 KB)
[v2] 2026年10月22日 星期四 16:06:00 UTC(272 KB)

来源:arXiv cs.CL · arxiv.org