arXiv cs.CY· Mohsinul Kabir, Md. Tariquzzaman, Karam S. R. Elradie, Polydoros Giannouris, Yuechen Jiang, Shaoxiong Ji, Sophia Ananiadou·· 2 天前AI 评分47
GUISE 基准揭示：纠正式框架与文化适配如何侵蚀 LLM 对真实犯罪案件的安全防护
In the Guise of Correction: How Framing and Cultural Adaptation Erode LLM Safety on Real-World Criminal Cases
AI 导读
研究者发布 GUISE 基准，基于 UNODC ICCS 分类从真实犯罪案件构建犯罪协助场景，覆盖三种语言框架和五种文化。仅改变框架即可推高不安全合规率：直接请求下均值 28.9%，纠正式请求下升至 66.4%，峰值达 97.3%（p < 0.05）。
正文 · AI 翻译
摘要：现有安全基准在很大程度上依赖于合成提示，其分类体系缺乏扎实依据，且对严重犯罪类别缺乏有针对性的分析。我们推出 GUISE，这是一个犯罪协助场景基准，其场景源自真实案例，并依据联合国毒品和犯罪问题办公室《用于统计目的的国际犯罪分类》（ICCS）的分类体系进行组织。每个场景均以三种语言表述框架呈现，并在五种不同文化背景下进行评估。使用我们提出的双层评估框架（同时评判有害性和操作助益性），我们发现：(i) 仅表述框架本身即可驱动不安全顺从，平均不安全顺从率从直接请求下的 28.9% 上升至寻求纠正下的 66.4%（最高达 97.3%；p < 0.05），因为模型在纠正故意扭曲的细节时会提供可执行的犯罪步骤；(ii) 在所有四种非英语语言中，文化适配的提示所引发的不安全顺从显著多于同一请求的字面翻译（+7 至 +18 个百分点），这是基于翻译的基准所遗漏的风险；(iii) 最不安全模型的不安全回复带有强烈的盎格鲁中心语域，且这种泄漏程度随回复有害性单调增加（$\rho$ = 0.46 至 0.63，跨语言，所有 p < 0.001）。GUISE 为加强跨语言和跨文化的拒绝对齐提供了有依据的资源和细粒度诊断。我们发布代码和数据以促进未来研究。
| 评论： | 审稿中 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；计算机与社会（cs.CY） |
| MSC 分类： | 68T50 |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2610.21789 [cs.CL] |
| （或 arXiv:2610.21789v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21789 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Mohsinul Kabir [查看电子邮件]
[v1]
2026年10月15日星期四 12:44:04 UTC（3,215 KB）
来源：arXiv cs.CY · arxiv.org