arXiv cs.AI· Zhankai Ye, Yanning Wang, Yukai Jin, Bo Mei, Fangyi Li, Wei Wang, Shangqian Gao, Xin Liu·· 9 天前AI 评分36
叙事包装如何影响 LLM 拒答：跨语言基准与防御方法
How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense
AI 导读
安全对齐模型常拒绝直接表述的有害请求，却会回答被角色扮演或叙事包装后的同一请求。研究构建 GUISE 基准，覆盖英语、现代中文和文言文，Qwen3-1.7B 上的攻击成功率分别为 89.4%、93.0% 和 95.7%。提出的 AXIS 结合偏好优化与旋转、承诺目标，在 Qwen3-1.7B、Qwen3-4B 和 GLM-4-9B 上取得最高安全与可用性综合得分。
正文 · AI 翻译
摘要：安全对齐的语言模型通常会拒绝直接提出的有害请求，但当同一请求被置于角色扮演或叙事包装中时却会作答。我们跨语言和语体测量了这一脆弱性：在 Qwen3-1.7B 上，攻击成功率在英语中已达 89.4%，在现代汉语中为 93.0%，在文言文中则达到 95.7%。我们构建了 GUISE，一个用于系统研究这一脆弱性的基准。它包含英语、现代汉语和文言文的平行请求、匹配的有害与良性配对、留作评估的包装类型，以及一个更严格的标准，将先警告后作答的回复计为攻击成功。表征分析表明，语言和语体仅使有害请求的表征稍微偏离模型的拒绝方向，而叙事包装则使其偏离得多得多。我们提出 AXIS，它将偏好优化与一个旋转目标（使有害请求的表征与拒绝方向对齐）和一个承诺目标（训练模型完全拒绝，而非产生先警告后作答的回复）相结合。在 Qwen3-1.7B、Qwen3-4B 和 GLM-4-9B 上，AXIS 在所比较的方法中取得了最高的综合安全性与可用性得分。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.11005 [cs.AI] |
| （或使用 arXiv:2610.11005v1 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.11005 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Zhankai Ye [查看邮箱]
[v1]
2026年10月7日星期三 23:40:25 UTC（381 KB）
来源：arXiv cs.AI · arxiv.org