arXiv cs.CY· Nithin Raghava Ramachandra Narla·· 9 天前AI 评分24
后处理公平性约束何时有效何时有害：来自八项跨域评估的证据
When Post-Processing Fairness Constraints Help and When They Harm: Evidence from Eight Cross-Domain Evaluations
AI 导读
研究提出 FAPE 框架，在刑事司法、收入预测、法律招生、信贷、农业贷款、多域基准、医疗和教育八个领域评估 Fairlearn 的 ThresholdOptimizer 后处理干预。
正文 · AI 翻译
摘要：生产环境机器学习中的公平性审计通常只在部署时、在单一领域上进行一次。这两种做法在实践中都会失败：公平性可能在重新训练或用户群体变化后发生偏移，而在一个数据集上验证过的干预措施很少在组织部署的异构领域中得到检验。我们提出 FAPE（生产环境公平性审计），这是一个四阶段框架，用于评估单一后处理干预措施 Fairlearn 的 ThresholdOptimizer，涵盖八个领域的评估：刑事司法、收入预测、法律录取、信贷借贷、农业借贷、多领域基准语料库、医疗保健和教育。每个领域都按人口统计均等和均衡几率差进行评分，并在可计算时加上差别影响比率和准确率成本。干预效果与基线差异幅度相关：在模型-领域配对中，该约束在 14 个高差异案例中的 9 个改善了差异，在 4 个接近公平的案例中的 3 个使其恶化。五个高差异例外中的每一个都会在两项测量检查之一（最小群体规模或在留出数据上拟合的阈值）下发生反转。一个在部署时启动、并在模拟偏移上测试的 CUSUM 监测器，能够区分从未达到 0.1 均等约定的受约束模型与曾达到该约定但后来退化的模型。因此，单次部署时审计是不可靠的指南，这支持进行基线差异筛查和持续监测
| 评论： | 18 页，6 幅图，2 张表。代码、数据加载器和图表：此 http URL |
| 主题： | 机器学习 (cs.LG)；计算机与社会 (cs.CY) |
| 引用为： | arXiv:2609.26955 [cs.LG] |
| （或 arXiv:2609.26955v3 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.26955 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Nithin Raghava Ramachandra Narla [查看电子邮件]
[v1]
2026 年 9 月 22 日星期二 18:46:00 UTC（1,657 KB）
[v2]
2026 年 9 月 29 日星期二 07:09:28 UTC（1,657 KB）
[v3]
2026 年 10 月 7 日星期三 21:33:20 UTC（1,647 KB）
来源：arXiv cs.CY · arxiv.org