AfriGuard：面向非洲语言的安全与稳健拒绝行为数据集
AfriGuard: Safety and Robust Refusal For African Languages
研究者推出 AfriGuard，一个覆盖 10 种非洲语言和英语、文化根基化的多语言数据集，用于研究有害意图、安全类别理解与拒绝行为。实验显示 guardrail 模型在安全意图与类别分类上不如开源和闭源 LLM，模型对恰当安全行为的理解有限，F1 低于 60%。基于该数据集开发的 guardrail 模型性能可与大至 30 倍的模型竞争，新拒绝检测器平均性能提升 43.9%。
作者：Israel Abebe Azime、Jesujoba O. Alabi、Iffat Maab、Alexander D. Cai、Tadesse Destaw Belay、Atnafu Lambebo Tonja、Jonas Kgomo、Folasade Alabi、Salomey Osei、Saminu Muhammad Aliyu、Nkechinyere Faith Aguobi、Bontu Fufa Balcha、Blessing Sibanda、Davis David、Mouhamadane Mboup、Daud Abolade、Neo Putini、Louis Powell、Kiant'e Brantley、Philipp Slusallek、Dietrich Klakow、Julia Kreutzer
摘要：旨在与用户交互的大型语言模型（LLM）通常经过训练，以对有害或毒性内容作出恰当回应。然而，在语言和文化背景多样的环境中，安全风险可能以不同方式表达或被解读，确保恰当回应变得更具挑战性。因此，构建安全的 AI 系统需要检测安全风险、理解其性质并作出恰当回应，同时还要考虑语言和文化差异，这些差异为每个阶段都增加了复杂性。在本工作中，我们推出 AfriGuard，这是一个具有文化根基的多语言数据集，用于研究 10 种非洲语言和英语中的有害意图、安全类别理解和拒绝行为。我们的研究结果表明，在安全意图和安全类别分类方面，护栏模型的表现不如开源和闭源 LLM，而模型对恰当安全行为的理解有限，F1 分数低于 60%。我们进一步发现，模型往往无法对不安全提示作出恰当回应，原因并非它们明确拒绝，而是它们生成了语言上不充分的回应，导致偶然性的不提供帮助，而非恰当的拒绝。最后，利用 AfriGuard，我们开发了高效的护栏模型，其性能可与规模高达 30 倍的模型相竞争，引入了拒绝检测器，其平均性能比现有检测器提升 43.9%，并证明监督微调可以显著提升整体安全性能。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.26474 [cs.CL] |
| （或 arXiv:2610.26474v2 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.26474 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Israel Abebe Azime [查看邮箱]
[v1]
2026年10月19日星期一 14:21:55 UTC（1,956 KB）
[v2]
2026年10月22日星期四 18:57:19 UTC（1,956 KB）
来源：arXiv cs.CL · arxiv.org