研究：奖励模型标准高分难掩社会偏见差异

Gayane Ghazaryan 与 Esra Dönmez 发表研究，把奖励模型评估扩展到偏见、安全、道德与伦理推理四个社会性领域，结论是标准基准上的高分未必对应更少的社会偏见。 研究称，模型在规避部分刻板印象的同时会强化另一些，聚合偏见分数会掩盖这种相反倾向；更强的刻板印象规避还可能以牺牲上下文忠实性为代价。在广泛奖励模型集合上，标准基准表现与社会对齐行为仅呈不一致关联。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。