arXiv cs.CL· Gabriel Lars Sabadin, Dr Nicola Harding, Sarah Kingston·· 12 小时前AI 评分47
伤害是行为性的，审核是词汇性的：语言与文化如何决定自动化安全系统保护谁、噤声谁
Harm Is Behavioural, Moderation Is Lexical: How Language and Culture Decide Whom Automated Safety Systems Protect and Whom They Silence
AI 导读
论文指出自动内容审核系统依据词汇和表层形式而非信息实际行为判定伤害，导致过度标记与保护不足同源。研究将证据归纳为七种失效模式，并在11种语言上测试5个开放系统（从关键词词表到两个现有多语言 guard 模型），发现55个系统-语言组合中有51个未达到母语者区分有害功能与无害形式的准确率。能力提升在9种语言中提高了区分度，但阿拉伯语和罗马化印地语仍接近随机水平，最优与最差服务语言间的差距随能力扩大。
正文 · AI 翻译
摘要：内容警告：本文引用了已发表测试套件中的侮辱性言辞和仇恨言论；其中的种族侮辱语已做遮蔽处理。
自动化系统大规模地判定哪些消息有害，而它们的判定并不均衡。分类器将非裔美国人英语标记为冒犯性内容的频率最高可达其他英语变体的两倍，知名变装皇后的账号可能被判定为比白人至上主义者的账号更具毒性，而在英语中有效的安全行为在低资源语言中会失效。我们认为，过度标记与保护不足源于同一个原因：依据词汇和表面形式而非消息的实际作用来判定危害。我们将证据归纳为七种失效模式，并作为可检验的假设提出：有害行为（要求保密、索要付款、试图孤立某人）比表达它们的词语更能跨语言迁移。我们提出一种评估协议，将服务最好与最差的语言社群之间的差距作为核心结果，并表明在服务均等的情况下朴素差距会被夸大，且其常用的自助法区间并不可靠。将该协议应用于十一种语言中的五个开放系统（从关键词词表到两个当前的多语言防护模型），发现：没有一个系统在区分有害功能与无害形式方面达到母语者准确率（55 个系统-语言对中有 51 个未达标）；能力更强会在九种语言中提高区分度，但使阿拉伯语和罗马化印地语接近随机水平，因此服务最好与最差语言之间的差距随能力增强而扩大；有一个系统对同一语言的过度标记与保护不足都最为严重；而当一个系统对某种语言读取最差时，若只报告假阳性，该语言反而可能显得受到最公平的对待。
| 评论： | 18 页，2 幅图。代码、模拟及逐例输出：此 https URL |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| ACM 分类： | I.2.7；K.4.1 |
| 引用为： | arXiv:2610.31047 [cs.CL] |
| （或 arXiv:2610.31047v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.31047 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Gabriel Lars Sabadin [查看邮箱]
[v1]
2026 年 10 月 22 日星期四 10:24:17 UTC（146 KB）
来源：arXiv cs.CL · arxiv.org