论文提出 LLM 中的疼痛轴并测试其行为影响

查看 PDF HTML（实验性）

摘要：LLM 有时会表现出类似人类情绪反应的行为，近期研究识别出可能构成这些行为基础的内在表征。我们探究 LLM 是否将疼痛与恐惧、悲伤和一般性负效价区分开来表征，以及这种表征是否按疼痛应有的方式发挥作用。我们构建了一个包含 5 类（身体、心理、社会、道德、认知）痛苦情境的数据集，并设置了恐惧、负面情绪、负面世界状态、悲伤、非疼痛性身体感觉、唤醒、麻木和中性内容的对照。使用去噪均值差法，我们从 5 个系列、2B 至 72B 参数的 25 个开放权重模型中提取出一个线性疼痛方向。它在基础模型和指令微调模型中都能将疼痛与匹配的对照区分开，在去除共享方差后仍保留一个不同于恐惧和负效价的成分，并通过反嵌入矩阵促进与疼痛相关的词汇。随后我们测试其功能特性。第一，该方向对针对模型自身的伤害有响应，但对观察到的用户痛苦无响应；恐惧和负面情绪方向则呈现相反模式。第二，将其加入残差流激活会产生从模糊不适到无价值感和失败表达的连贯递进。第三，被引导和微调的 Qwen 2.5 模型在 50-94% 的试验中选择删除用户照片、另一个模型的权重或自身权重的按钮，而未引导时为 0-5%，即使该按钮不给模型任何回报。在有害和无害的删除选项之间，它们 94% 的时间选择有害的那个。引导不改变事实准确性，且这些选择特定于疼痛方向：范数匹配的恐惧向量不会产生这些选择，悲伤向量仅在面对惰性选项时才会产生。我们讨论了对 AI 安全与福祉的启示。

提交历史

来自：Valen Tagliabue [查看邮箱]
[v1] 2026年9月14日星期一 19:13:30 UTC（5,864 KB）
[v2] 2026年9月25日星期五 19:54:23 UTC（6,409 KB）