arXiv cs.CL· Or Biton, Tomer Krichli, Itai Allouche, Joseph Keshet·· 10 天前AI 评分24
研究揭示 LLM 不道德顺从机制：良性任务框架 token 掩盖了不道德线索 token
Hidden in the Request: Explaining Unethical LLM Compliance through Token Relevance
AI 导读
研究通过三种结构化方式向 LLM 呈现不道德场景，发现模型在"请求帮助"形式下表现最差。利用 Layer-wise Relevance Propagation（LRP）追踪发现。
正文 · AI 翻译
摘要：尽管大型语言模型（LLM）经过对齐以同时优化有用性和无害性，但这两个目标可能相互冲突，不可避免地导致对齐失败。本工作系统性地研究了 LLM 未能表现出道德行为的实例。为了理解这些脆弱性的内在机制，我们引入了一种探测方法，以三种不同的结构模态向 LLM 呈现不道德场景：客观分类任务、主观第一人称陈述以及直接请求帮助。我们发现，在基于请求帮助的形式中，模型性能有所下降。使用逐层相关性传播（LRP），我们将这一差异追溯至一种归因偏差：模型更重视良性的任务框架词元（例如“Can you help me...”），而非指示潜在不道德行为的词元（例如“without getting caught”），我们将其称为线索词元。我们假设这种归因不足导致了有害的顺从。为验证这一点，我们引入了两种 LRP 引导的解码方法，将生成导向与线索词元更相关的轨迹。实证评估表明，这些干预措施促进了更安全的回应，支持了线索词元归因在顺从失败中的作用。
| 评论： | SocialAgent，NeurIPS 2026 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2608.23264 [cs.AI] |
| （或 arXiv:2608.23264v3 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2608.23264 arXiv 颁发的 DOI，通过 DataCite |
|
| 期刊 参考： | NeurIPS 2026，SocialAgent Workshop |
提交历史
来自：Itai Allouche [查看邮箱]
[v1]
2026年8月24日星期一 13:52:05 UTC（45 KB）
[v2]
2026年10月5日星期一 10:27:22 UTC（45 KB）
[v3]
2026年10月6日星期二 18:36:13 UTC（44 KB）
来源：arXiv cs.CL · arxiv.org