arXiv cs.CL· Organizers of QueerInAI, :, A Pranav, Alissa A. Valentine, Alex Markham, Beckett LeClair, Tereza Blazkova, Ekaterina Kornilitsina, Sofie H. Bruun, Gerasimos Spanakis, Anne Lauscher·· 10 小时前AI 评分18
基于社区的 AI 危害审计：EurIPS 2025 工作坊对 queer 群体的 4Cs 危害分类实践
Queering the Audits: Community-Based Auditing of AI Harms to Queer Communities
AI 导读
研究团队在 EurIPS 2025 举办参与式审计工作坊，16 名 queer 社区成员用 4Cs 危害分类法（Content、Conduct、Contact、Contract）审计了四个案例。参与者将四类案例的危害均追溯到问题定义与数据收集环节，并识别出从弱势群体中提取价值却几乎不提供救济的合同结构。结果表明，社区参与的审计能发现聚合评估方法可能忽略的具体、身份相关危害。
正文 · AI 翻译
摘要：AI 系统将多数群体的默认设定嵌入训练数据、评估指标和类别定义中，对酷儿群体造成了有据可查的伤害，包括被抹除、被错误分类和遭受歧视。标准技术审计往往依赖聚合指标，无法发现只有通过受影响群体的亲身经历才能显现的伤害。我们在 EurIPS 2025 上开展了一场参与式审计工作坊，16 位酷儿社区成员使用 4Cs 伤害分类法（内容、行为、接触、契约）对四个案例研究进行了审计，并将其应用于 AI 生命周期。参与者使用结构化工作表与全体会议综合讨论来对伤害进行分类，并追溯其在开发流程中的根源。在所有四个案例中，参与者都将伤害追溯至问题定义和数据收集环节，并识别出从弱势群体中提取价值却几乎不提供救济途径的契约结构。这些发现表明，社区参与的审计能够揭示具体的、与身份相关的伤害，而聚合评估方法则有忽视这些伤害的风险。
| 评论： | 发表于 LREC 2026 的 Identity Aware AI 工作坊 |
| 主题： | 计算与语言（cs.CL）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2611.00345 [cs.CL] |
| （或 arXiv:2611.00345v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.00345 由 DataCite 颁发的 arXiv DOI（待注册） |
|
| 期刊 参考： | 载于 2026 年第二届 Identity Aware AI 工作坊论文集，第 66-76 页，西班牙帕尔马。欧洲语言资源协会 |
| 相关 DOI： | https://doi.org/10.63317/5acrwqmesyw4
链接到相关资源的 DOI |
提交历史
来自：A Pranav [查看电子邮件]
[v1]
2026 年 10 月 30 日星期五 20:26:03 UTC（405 KB）
来源：arXiv cs.CL · arxiv.org