arXiv cs.AI· Fan Huang, Haewoon Kwak, Jisun An·· 10 天前AI 评分27
大语言模型道德推理轨迹研究：迈向基于探针的可解释性
Understanding Moral Reasoning Trajectories in Large Language Models: Toward Probing-Based Explainability
AI 导读
研究提出"道德推理轨迹"概念，追踪 LLM 中间推理步骤中伦理框架的调用序列，在六个模型和三个基准上分析其动态。55.4–57.7% 的连续步骤发生框架切换，仅 16.4–17.8% 的轨迹保持框架一致，不稳定轨迹受说服攻击的可能性高 1.29 倍（p=0.015）。
正文 · AI 翻译
摘要：大语言模型（LLM）越来越多地参与道德敏感的决策，然而它们如何在推理步骤中组织伦理框架仍未被充分探索。我们引入了道德推理轨迹，即跨中间推理步骤的伦理框架调用序列，并分析了其在六个模型和三个基准上的动态。我们发现，道德推理涉及系统性的多框架审议：55.4--57.7% 的连续步骤涉及框架切换，只有 16.4--17.8% 的轨迹保持框架一致。不稳定的轨迹受说服性攻击影响的可能性高出 1.29 倍（p=0.015）。在表示层面，线性探针将框架特定编码定位到模型特定的层（Llama-3.3-70B 为第 63/81 层；Qwen2.5-72B 为第 17/81 层），相比步骤先验基线实现了 16.8--22.2% 更低的 KL 散度。在生成过程中施加激活引导会移动框架一致性--准确率关系，对 Qwen2.5-72B 扩大该关系，对 Llama-3.3-70B 则消除该关系，而探针空间层扫描将可达到的漂移减少上限定为 6.7--8.9%。我们进一步提出了道德表示一致性（MRC）指标，其底层框架归因已由人类标注者验证（平均余弦相似度 = 0.859），并报告了自动连贯性评分器对其能确立和不能确立的内容。
| 评论： | 我们更新了更多统计结果和分析 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2603.16017 [cs.CL] |
| （或 arXiv:2603.16017v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2603.16017 arXiv 颁发的 DOI（通过 DataCite） |
提交历史
来自：Fan Huang [查看电子邮件]
[v1]
2026年3月16日星期一 23:51:30 UTC（7,844 KB）
[v2]
2026年10月5日星期一 20:29:09 UTC（6,984 KB）
来源：arXiv cs.AI · arxiv.org