arXiv cs.CL· Suryansh Talukdar (Purdue University Fort Wayne), Taha Sarwat (Purdue University Fort Wayne), Jonathan Rusert (Purdue University Fort Wayne)·· 11 小时前AI 评分19
通过理由正则化缓解解释与人类对齐中的群体差异
Mitigating Demographic Disparities in Explanation-Human Alignment via Rationale Regularization
AI 导读
研究提出 Plausibility-EFG 指标，用 HateXplain 数据集衡量不同人口群体间解释合理性的最大差距，并对比 BERT、RoBERTa 与对抗训练的 ADV-RoBERTa。
正文 · AI 翻译
摘要：我们研究仇恨言论检测中的解释公平性。高分类性能并不总是意味着模型对不同人口群体产生同等合理的解释。使用 HateXplain 数据集，我们引入了 Plausibility-EFG，这是一种通过比较模型生成的 token 归因与人工标注的理由来衡量不同人口群体之间解释合理性最大差异的指标。我们使用 Integrated Gradients 和 SHAP 评估了 BERT、RoBERTa 和 ADV-RoBERTa（一种对抗训练模型）。我们的结果表明，ADV-RoBERTa 提高了分类性能以及解释与人工理由之间的一致性，同时减少了不同人口群体之间的解释差异。这些改进在两种归因方法下均可观察到，并且在训练、验证和测试划分中保持一致。我们还表明，仅减少预测层面的偏差并不能消除解释中的差异，这表明预测公平性和解释公平性是相关但不同的目标。最后，我们的公平性-性能分析表明，更强的对抗正则化可以进一步降低 Plausibility-EFG，尽管它可能导致 macro-F1 小幅下降。总体而言，这项工作将解释公平性作为仇恨言论审核中的一个重要目标，并引入了 Fair-REF，一个旨在减少不同人口群体之间模型解释差异的框架。
| 评论： | 19 页，10 幅图，10 张表 |
| 主题： | 计算与语言 (cs.CL)；人工智能 (cs.AI) |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2610.22586 [cs.CL] |
| （或 arXiv:2610.22586v1 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.22586 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Suryansh Talukdar [查看电子邮件]
[v1]
2026 年 10 月 15 日星期四 19:36:39 UTC（1,958 KB）
来源：arXiv cs.CL · arxiv.org