arXiv cs.CL· Diego Miguel Lozano, Erik Derner, Juan Antonio P\'erez-Ortiz, Nuria Oliver·· 11 小时前AI 评分42
LLM 安全中的极性盲区：否定、反义词替换与对抗性包装的系统性研究
Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing
AI 导读
研究提出“极性盲区”这一结构性漏洞：LLM 在语法否定、反义词替换等改变极性的语言变换后，无法识别有害意图。基于 260 条提示词、10 个 SOTA 模型和英语/西班牙语/捷克语 3 种语言（按 0-5 危害量表评估），多数模型受影响，最脆弱模型平均危害分达 4.12。该效应在不同否定体系的语言中均存在，说明这是语义鲁棒性的普遍局限而非特定语法问题。
正文 · AI 翻译
摘要：否定现象始终是语言模型在各类 NLP 任务与模态中持续面临的挑战。我们表明，这一弱点可能通过一种我们称为极性盲的结构性漏洞削弱 LLM 的安全防护机制：即在极性改变的语言转换之后无法识别有害意图。我们研究了两种极性反转形式：语法否定与反义词替换，并以同义词替换作为保持极性的对照。我们进一步测试了对抗性文本包装是否会放大这些失败。我们使用一个包含 260 条提示的基准，覆盖 10 个最先进的 LLM 和 3 种语言（英语、西班牙语、捷克语），按潜在危害性分层，并在经过验证的 0-5 危害量表上评估，发现极性盲影响大多数被评估的模型，最脆弱模型的平均危害得分达到 4.12。该效应在类型学上不同的否定系统中持续存在，表明极性盲反映的是语义鲁棒性方面更广泛的局限，而非特定语言或语法的失败。
| 评论： | 代码与数据：此 https URL |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.27908 [cs.CL] |
| （或 arXiv:2610.27908v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.27908 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Diego Miguel Lozano [查看电子邮件]
[v1]
2026年10月20日星期二 09:22:50 UTC（2,318 KB）
来源：arXiv cs.CL · arxiv.org