arXiv cs.AI· Stephanie Buttigieg, Maeve Madigan, Parameswaran Kamalaruban, Stuart Burrell·· 10 天前AI 评分41
LLM 潜在空间偏见方向反映的是置信度而非公平性
Latent space bias directions in LLMs capture confidence, not fairness
AI 导读
研究发现，通过对比抗偏见与偏见提示词激活值得到的线性去偏见方向，在激活空间中主要编码的是模型置信度，而非有意义的偏见表征。沿该方向进行激活引导虽能降低偏见指标，但实质是让模型在 QA 基准上拒绝作答、整体置信度下降，公平性提升只是副作用。这表明将偏见与置信度解耦的线性表征难以实现，基于引导的去偏见结果需谨慎解读。
正文 · AI 翻译
摘要：激活引导作为一种轻量级的推理时去偏技术，已在大语言模型中流行起来。然而，先前的工作报告称，引导向量的泛化能力较差，会对模型性能产生意外影响，且难以迁移到新数据集。我们的工作分析了用于激活引导的去偏方向实际编码了什么，以揭示其性能不稳定的原因。我们研究了通过对比反偏见提示与偏见提示的激活所得到的线性去偏方向，并将其作为引导干预在偏见和通用知识基准上进行评估。我们发现，该方向主要由模型置信度主导，在激活空间中从高概率 token 区域指向低概率 token 区域，而非编码模型偏见的有意义表示。沿该方向进行引导确实能降低测得的偏见，但这是降低模型置信度的结果：在问答基准上，我们发现这种引导会驱使模型拒绝作答，其副作用是改善了公平性指标。我们的实验表明，在隐藏空间中，模型置信度是区分偏见提示与反偏见提示的主导因素，这表明分离出与模型置信度解耦的线性偏见表示十分困难，基于引导的去偏结果应谨慎解读。简言之，引导似乎能减少偏见，但并非通过纠正模型的潜在偏好，而是通过使其变得不那么自信，即使在无关偏见的任务上也是如此。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.08559 [cs.CL] |
| （或 arXiv:2610.08559v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.08559 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Maeve Madigan [查看邮箱]
[v1]
2026年10月6日星期二 15:42:35 UTC（8,604 KB）
来源：arXiv cs.AI · arxiv.org