arXiv cs.CL· Luoming Hu, Jingjie Zeng, Liang Yang, Hongfei Lin·· 14 小时前AI 评分38
研究：LLM 是否存在内在道德路径？基于道德基础理论的探测与干预
The Straight and Narrow: Do LLMs Possess an Internal Moral Path?
AI 导读
研究者利用道德基础理论（MFT）对 LLM 的道德表征进行跨语言线性探测，发现中英文在中层共享道德表征但存在不同的道德子空间，并据此提取出可操控的 Moral Vectors。基于此提出的 Adaptive Moral Fusion（AMF）在推理时结合探测与向量注入，相比标准基线在减少对良性查询的错误拒绝的同时降低了越狱成功率。该论文已被 EMNLP 2026 Main 接收。
正文 · AI 翻译
摘要：提升大型语言模型（LLM）的道德对齐是 AI 安全领域的一项关键挑战。当前的对齐技术往往只是表面的防护栏，LLM 内在的道德表征基本未被触及。本文通过利用道德基础理论（MFT）来映射和操控 LLM 细粒度的道德图景，从而弥合这一差距。通过跨语言线性探测，我们验证了中间层道德表征的共享性质，并揭示了英语和中文之间一个共享但不同的道德子空间。在此基础上，我们提取了可操控的道德向量，并成功在内部和行为两个层面验证了其有效性。利用道德的高度泛化性，我们提出了自适应道德融合（AMF），这是一种动态的推理时干预方法，将探针检测与向量注入相结合，以应对安全性与有用性之间的权衡。实证结果证实，我们的方法作为一种有针对性的内在防御，与标准基线相比，有效减少了良性查询上的错误拒绝，同时最小化了越狱成功率。
| 评论： | 我们的论文已被 EMNLP 2026 Main 接收；代码和数据集：此 https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2601.10307 [cs.CL] |
| （或 arXiv:2601.10307v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2601.10307 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Luoming Hu [查看邮箱]
[v1]
2026年1月15日星期四 11:42:00 UTC（1,647 KB）
[v2]
2026年10月26日星期一 17:26:51 UTC（1,518 KB）
来源：arXiv cs.CL · arxiv.org