研究：LLM仇恨言论分类器存在测量非不变性

Wenchang Wang、Yue Song 发表研究，用 421 个仅替换身份词的模板测试四个 LLM 仇恨言论分类器，发现四者平衡准确率均超 0.95，但其中两个对涉及女性的仇恨言论漏报率比其他群体分别高出 8.3 和 4.4 个百分点。 研究将这一现象称为测量非不变性：同一句话只改变所指群体，分类器的判定结果并不一致。测试覆盖七个受保护群体，模板除身份词外完全相同。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。