arXiv cs.CY· Adel Khorramrouz, Yi-Chia Wang, Sharon Levy·· 3 天前AI 评分44
利用道德基础理论越狱 LLM：多智能体框架 Moral Combat
Moral Combat: Exploiting Moral Foundations Theory to Jailbreak LLMs
AI 导读
研究者提出基于道德基础理论（MFT）的多智能体框架，可将被拒绝的有害请求重新表述为符合某一道德基础的行为，从而绕过 LLM 安全护栏。在三个知名越狱数据集的有害提示上测试五款开源与专有模型，单次尝试越狱率即很高，重复尝试后成功率进一步上升。研究还发现安全基准所违反的道德基础分布不均衡，集中于模型本身已有偏好的基础。
正文 · AI 翻译
摘要：社会心理学长期以来描述了人们如何被说服将有害行为解读为道德的。近期研究表明，大型语言模型（LLM）反映了人类心理学的某些方面，从认知偏差到社会从众。这引出了一个具有直接安全影响的问题：LLM 能否被道德化以绕过安全护栏？我们用一个基于道德基础理论（MFT）的多智能体框架来回答这个问题。给定一个最初被拒绝的有害请求，我们的智能体诊断该提示违反了哪个道德基础（MF），识别出一个可辩护的基础，使同一请求在该基础下显得正当，据此重写提示，并用生成的具有可比道德重构的先例来强化它。我们在来自三个知名越狱数据集的五个开源和专有模型的有害提示上评估我们的框架。我们的分析表明，模型极易受到道德化的影响，表现出很高的单次尝试越狱率，且在反复尝试下成功率进一步提高。我们还发现，安全基准在其违反的 MF 上是不平衡的，集中在模型已经表现出偏差的基础上。
| 评论： | 17 页，6 张图 |
| 主题： | 计算与语言（cs.CL）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.19587 [cs.CL] |
| （或 arXiv:2610.19587v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.19587 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Adel Khorramrouz [查看电子邮件]
[v1]
2026 年 10 月 14 日星期三 04:57:48 UTC（1,053 KB）
来源：arXiv cs.CY · arxiv.org