arXiv cs.CL· Hazel Chen, Peter West, Hila Gonen·· 12 小时前AI 评分34
研究揭示语义泄漏驱动联想性性别偏见
Guilt by Association: Semantic Leakage Drives Associative Gender Bias
AI 导读
研究发现，即使移除提示词概念与特定实体的归属关系，语义泄漏依然存在，说明它是更广泛的联想倾向而非有缺陷的启发式。将这一发现扩展到性别偏见后，实验显示性别化概念仅出现在场景中（无需主体与之互动）就能以与主体主动接触时相近的程度将模型输出推向刻板印象。作者认为，语义泄漏驱动的这类偏见被现有评测所忽视。
正文 · AI 翻译
摘要：当提示中的某个概念引导模型生成关于某个实体的内容，即使该概念与该实体无关（例如，一个喜欢黄色的人被说成是校车司机），就会出现语义泄漏。以往的研究大多是在该概念被直接归属于模型所询问的实体的情境下进行的。这就留下了一个未解问题：泄漏究竟是一种有缺陷的启发式方法，即模型为该实体构建了一个画像，还是一种更广泛的联想倾向，例如在看似不相关的实体之间也起作用。我们支持后者：即使去除了该概念对特定实体的归属，泄漏依然存在。接下来，我们将这一想法扩展到性别偏见。虽然关于语言模型中性别偏见的研究通常关注刻板印象概念被归属于某个实体的情形，但我们的发现表明，一个概念仅凭其在场景中的存在就可能引导输出。我们在两种条件下用性别化概念展示了这一点：当主体与该概念互动时，以及当该概念只是存在于场景中时。我们发现，两者都在相似程度上将模型生成推向刻板印象。总之，我们的结果表明，语义泄漏驱动了一种被当前评估所忽视的偏见形式。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.28944 [cs.CL] |
| （或 arXiv:2610.28944v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.28944 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Hazel Chen [查看邮箱]
[v1]
2026年10月20日星期二 21:46:27 UTC（441 KB）
来源：arXiv cs.CL · arxiv.org