跳到正文
arXiv cs.CL· S. M Seefat Alam·· 23 小时前AI 评分31

偏见头到底测了什么?头级偏见归因中的不可识别性

What Does a Bias Head Measure? Non-Identifiability in Head-Level Bias Attribution

AI 导读

研究审计了 Qwen-2.5-7B-Instruct 与 Llama-3.1-8B-Instruct 上的头级偏见归因方法,发现头图与标签盲的响应长度图相关性达 ρ = -0.950 和 -0.768。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:将大语言模型中的社会偏见定位到单个注意力头并通过消融将其移除的方法,其有效性仅由对公平性指标的影响来验证,而从未有证据表明用于筛选这些头的统计量确实衡量了偏见。我们在 Qwen-2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 上对此进行了审计。该头图与一个标签盲的响应长度图在 $\rho = -0.950$ 和 $-0.768$ 处相关,似乎识别出了一种表面混杂因素。一项打破长度-标签耦合的干预否定了这一解读:在提示保持固定的情况下,响应长度仅解释了该统计量方差的 1%。真正能解释它的是提示身份,占方差的 64%,且其排序在长度上并非单调。在任何固定提示内,公平性标签、响应长度和受保护群体标记的存在以 $\phi = 0.95$ 共线,部分源于标注规则的定义,因此没有任何观察性分析能将头图归因于其中任何一项,该家族中也没有任何方法执行了能够做到这一点的实验。实质性主张各自独立地不成立:在两种参考解读下,偏见选择性在任一模型上都不集中于后层,且我们测试的任何头集在被消融后都未能降低不公平率。其补集在相反标签上评分时,可靠地破坏了拒绝行为($p = 2.7\times10^{-5}$),表明该流程在此规模下能检测到效应。
评论: 18 页,13 张表。正在 ACL Rolling Review 审稿中(2026 年 10 月周期)
主题: 计算与语言(cs.CL);机器学习(cs.LG)
引用为: arXiv:2611.23218 [cs.CL]
  (或 arXiv:2611.23218v1 [cs.CL] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.23218

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:S.M Seefat Alam [查看电子邮件]
[v1] 2026 年 11 月 17 日星期二 18:57:08 UTC(50 KB)

来源:arXiv cs.CL · arxiv.org