arXiv cs.AI· Yisong Xiao, Benlei Cui, Haiwen Hong, Shiji Zhao, Zonghao Ying, Yaoyuan Zhang, Longtao Huang, Aishan Liu, Hui Xue, Ting Ma, Xianglong Liu·· 3 天前AI 评分31
PASP：用感知感知对抗自博弈提升 LLM 有害内容识别能力
Hidden in Plain Sight: Advancing Harmful Content Understanding via Perception-Aware Adversarial Self-Play
AI 导读
针对 LLM 难以识别人为伪装的有害内容，研究者提出 PASP（Perception-Aware Adversarial Self-Play），通过构建文本、语音、视觉多感知视图并结合对抗自博弈，让攻击方生成保留意图的规避表达、防御方以意图不变奖励学习识别。
正文 · AI 翻译
作者：Yisong Xiao、Benlei Cui、Haiwen Hong、Shiji Zhao、Zonghao Ying、Yaoyuan Zhang、Longtao Huang、Aishan Liu、Hui Xue、Ting Ma、Xianglong Liu
摘要：尽管语言理解取得了显著进展，大型语言模型（LLM）仍可能遗漏显而易见却隐藏的含义，无法识别人类轻易就能理解的表达中的有害意图。恶意用户利用这一差距，策略性地伪装有害内容以逃避自动审核，对在线平台安全构成严重威胁。这一脆弱性反映了人类读者与基于文本的 LLM 之间的根本认知不对称：人类读者会整合语境、语音和视觉线索来解读刻意混淆背后的意图，而基于文本的 LLM 主要依赖 token 序列，对不断演变的规避手段接触有限。为弥合这种不对称，我们提出 PASP（Perception-Aware Adversarial Self-Play），它将多感知视角与对抗性自我博弈相结合，以在规避手段不断演变时提升对有害意图的理解。具体而言，PASP 为每个输入构建文本、语音和视觉视角，在保留其原始语境的同时，暴露在 token 空间中被遮蔽的发音和字形线索。在对抗性自我博弈中，攻击者利用防御者反馈生成保持意图的规避表达，而防御者则使用意图不变性奖励进行训练，以理解不断变化的表面形式背后的有害意图。大量实验表明，PASP 在 ChineseHarm-Bench 和 EvoHarmBench 上分别将自适应攻击成功率降低多达 73.71% 和 74.49%，在模型能力仅有极小退化的情况下保持其性能，并能有效解读电子商务中的真实世界规避表达。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.15449 [cs.AI] |
| （或 arXiv:2610.15449v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.15449 arXiv 颁发的 DOI，经由 DataCite |
提交历史
来自：Yisong Xiao [查看电子邮件]
[v1]
2026年10月11日星期日 08:50:07 UTC（2,277 KB）
[v2]
2026年10月14日星期三 11:58:17 UTC（2,279 KB）
来源：arXiv cs.AI · arxiv.org