arXiv cs.CL· Bangzhao Shu, Arinjay Singh, Mai ElSherief·· 14 小时前AI 评分31
为什么有些情绪对 LLM 更难？用稀疏自编码器揭示情绪推理的因果机制
Why Are Some Emotions Harder for LLMs? Uncovering the Causal Mechanisms of Emotion Inference via Sparse Autoencoders
AI 导读
研究用稀疏自编码器（SAE）识别驱动 LLM 情绪推理的因果稀疏特征，发现惊讶、恐惧依赖高度集中的特征集，而厌恶的因果特征更分散、更弱，常与其他情绪特征共激活并被愤怒特征掩盖。这种表征差异从机制上解释了 LLM 为何在某些情绪上表现更差。团队还通过定向引导弱因果特征和全局优化引导向量两项干预实验，缓解特定情绪失败并提升整体情绪识别表现。
正文 · AI 翻译
摘要：大语言模型（LLM）正越来越多地应用于情感敏感的人机交互场景，在这些场景中可靠的情绪检测至关重要。然而，它们的情绪识别能力仍不均衡：模型往往在某些情绪上表现良好，却始终难以应对另一些情绪。尽管近期研究已探索了 LLM 中的情绪机制，但从机制可解释性视角来看，模型为何在某些情绪上弱于其他情绪，仍鲜为人知。在本工作中，我们借助稀疏自编码器（SAE），通过情绪推断的因果机制来研究情绪特异性偏差。我们系统性地识别出驱动情绪推断的因果稀疏情绪特征，并分析这些特征在情绪内部及跨情绪之间的稀疏因果组织。我们表明，某些情绪（如惊讶和恐惧）依赖于高度集中的特征集，而厌恶则表现出更为分散的稀疏因果组织：其因果特征总体较弱，常与其他情绪的特征共同激活，且往往被愤怒的因果特征所掩盖。这些表征差异为 LLM 为何在某些情绪上表现更差提供了机制性解释。最后，我们开展了两项干预实验：对较弱的因果特征进行定向引导以缓解情绪特异性失败，以及在已识别的因果特征上全局优化引导向量以提升整体情绪识别性能。
| 评论： | 含附录共 21 页 |
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2604.25866 [cs.CL] |
| （或 arXiv:2604.25866v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.25866 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Bangzhao Shu [查看邮箱]
[v1]
2026 年 4 月 28 日星期二 17:03:16 UTC（875 KB）
[v2]
2026 年 6 月 25 日星期四 15:30:23 UTC（5,344 KB）
[v3]
2026 年 10 月 24 日星期六 06:28:43 UTC（5,359 KB）
来源：arXiv cs.CL · arxiv.org