arXiv cs.CL· Manthan Gadhia, Alexander Hoyle, Karolina Sta\'nczak·· 11 小时前AI 评分31
分析 OLMo 3 训练全流程中的职业性别偏见
Analyzing Occupational Gender Bias across the LLM Training Lifecycle
AI 导读
研究追踪了全开放模型家族 OLMo 3 各后训练阶段 checkpoint 的职业性别偏见：当性别被明确给出时，后训练提升了男性编码画像的语义多样性，而女性编码画像在 SFT 后提升较小、在 DPO 和 RLVR 后不显著。
正文 · AI 翻译
摘要：人们普遍认为后训练会减少语言模型从预训练中继承的社会偏见，然而支持这一假设的直接证据仍不一致。本文考察性别差异在语言建模流程中如何演变。具体而言，我们研究 OLMo 3——一个完全开放的语言模型系列——在其各后训练阶段中的职业性别偏见：针对每个检查点，根据合成人物的职业和教育背景提示其生成开放式叙述。我们考虑两种设定：性别给定设定，即人物简介明确说明人物性别；以及性别假定设定，即性别必须由模型推断。我们发现，当性别被明确说明时，后训练提高了男性编码人物的语义多样性，而对于女性编码人物，SFT 后的提升较小，在 DPO 和 RLVR 后则不显著。当性别由模型假定时，后训练对女性和男性人物的叙述影响相似。然而，模型自身的性别假定相对于美国劳动力人口统计呈现出持续偏向女性的倾向，重度男性主导的职业除外。每个后续后训练阶段都单调地提高了相对于基础模型赋予女性标签的几率。对监督微调语料的来源分析仅发现 7.7% 的适度女性词元盈余，不足以解释这些下游效应的规模。项目代码可在以下地址获取：this https URL。
| 评论： | 提交至 7th Workshop on Gender Bias in Natural Language Processing @AACL-IJCNLP 2026 |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.23587 [cs.CL] |
| （或 arXiv:2610.23587v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23587 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Manthan Gadhia [查看电子邮件]
[v1]
2026年10月16日星期五 15:07:02 UTC（1,414 KB）
来源：arXiv cs.CL · arxiv.org