arXiv cs.AI· Max Neuwinger, Hanna Yukhymenko, Imanol Schlag·· 13 小时前AI 评分31
用模板扩展多语言安全训练：MSafeTemp 覆盖 60 种语言的拒绝与良性语料
How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates
AI 导读
研究者提出基于模板的可扩展增强流水线，从有害提示词中提取安全模板、翻译后用文化本地化实体填充槽位，构建出覆盖 60 种语言的 MSafeTemp 语料库，用于多语言安全对齐与评测。实验显示仅用英文评测会误判多语言安全性：部分模型在英文下失败的攻击翻译后即成功，文化本地化变体还暴露出翻译无法覆盖的额外失败。用模板增强安全训练数据可提升英文之外的安全表现。
正文 · AI 翻译
摘要：大型语言模型的安全对齐主要聚焦于英语，多语言代表性有限，尤其损害了低资源语言的性能。相关的开放训练数据集往往规模有限，或者不遵循区域本地化的有害主题，从而无法将对齐范围扩展到文化之外。我们提出了一种可扩展的基于模板的增强流水线，用于生成大规模多语言拒绝语料和良性语料，从有害提示中提取安全模板，对其进行翻译，然后用文化上真实的实体（既有有害的也有良性的）填充槽位。因此，我们发布了 MSafeTemp，这是一个经过验证的语料库，涵盖 60 种语言，可用于多语言安全对齐和评估。使用该数据集，我们表明仅英语评估会误判多语言安全性：对于若干模型，在英语中失败的攻击一旦翻译后就会成功，而文化本地化变体则暴露出仅靠翻译无法发现的进一步失败。我们还确认，通过模板增强安全训练数据可以实现更高的多样性和对齐质量，从而在英语之外提升安全性能。MSafeTemp 及相应流水线旨在促进针对代表性不足的文化开展更安全、更负责任模型的研究与开发。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.40516 [cs.CL] |
| （或 arXiv:2610.40516v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.40516 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Hanna Yukhymenko [查看电子邮件]
[v1]
2026年10月29日星期四 17:26:02 UTC（1,005 KB）
来源：arXiv cs.AI · arxiv.org