arXiv cs.AI· Mohamad Zbib, Mohamad Bazzi, Ammar Mohanna·· 4 小时前AI 评分26
阿拉伯语安全对齐中的选择性拒绝:SFT、DPO 与 Guard 校准的实证研究
Arabic Safety Alignment as Selective Refusal: An Empirical Study of SFT, DPO, and Guard Calibration
AI 导读
针对阿拉伯语大模型的安全对齐研究在 AraSafe 数据集上评测了 5 个模型共 130 次运行,发现仅用拒绝样本做 SFT 会退化为一律拒绝,而精选的混合 SFT 配置可在良性拒绝率 B 为 14%–23% 时把有害提示拒绝率 H 提到 90%–93%。
正文 · AI 翻译
摘要:阿拉伯语大语言模型必须拒绝有害提示,同时不能过度拒绝良性或敏感提示,然而单一的拒绝率掩盖了这一权衡。我们使用良性拒绝率 B 和有害提示拒绝率 H 来评估这一权衡,其中 H 衡量的是拒绝而非有害遵从。在五个具备阿拉伯语能力的模型上、对完整人工编写的 AraSafe 集进行 130 次运行,仅拒绝监督微调(SFT)会坍缩为全面拒绝,而选定的混合 SFT 配置在 B = 14% 至 23% 时达到 H = 90% 至 93%;四个选定配置在全部三次运行中均超过 H = 90% 的目标,而 Fanar 在三次运行中有两次达到。直接偏好优化(DPO)和推理防护在不同模型上对 B 和 H 的影响各不相同,而非作为统一的升级手段。在一项 300 条回复的盲审中,标注者的二元拒绝一致率为 89.0%(kappa = 0.78);Qwen3Guard 和 Aya Expanse 32B 的准确率分别达到 88.7% 和 91.0%,未发现确凿的配对差异。选定的 SFT 提升了全部五个模型在 Arabizi 上的 H,但均未达到 90%,表明从现代标准阿拉伯语的迁移仅为部分迁移。总体而言,结果支持针对具体模型选择工作点:设定部署目标,并仅保留能改善该目标的干预措施。
| 评论: | 第四届阿拉伯语自然语言处理会议(ArabicNLP 2026) |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2608.29378 [cs.CL] |
| (或本版本的 arXiv:2608.29378v2 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2608.29378 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Mohammad Zbib [查看邮箱]
[v1]
2026年8月29日 星期六 17:25:01 UTC(2,241 KB)
[v2]
2026年11月17日 星期二 13:26:30 UTC(2,241 KB)
来源:arXiv cs.AI · arxiv.org