arXiv cs.AI· Sergei Berezin, Reza Farahbakhsh, Noel Crespi·· 3 天前AI 评分27
毒性是交际事件的属性：面向 NLP 的语境压力测量框架（CSF）
Toxicity Is a Property of Communicative Events: A Contextual Stress Measurement Framework for NLP
AI 导读
这篇立场论文提出 Contextual Stress Framework（CSF），主张毒性检测不应被视为孤立文本的单标签分类，而应作为对情境化交际伤害的语境测量，将毒性定义为感知规范违背与所引发压力或扰乱之间的关系。CSF 解释了文本内在型检测器为何会过度标记方言或 reclaimed 语言、漏检编码或语用滥用，并在保义变换下表现脆弱。
正文 · AI 翻译
摘要：毒性检测已成为在线内容审核、数据集过滤和已部署语言模型系统的核心安全基础设施。然而，大多数检测器仍将毒性视为孤立文本的内在属性。本立场论文主张，毒性检测应被评估为对情境化交际伤害的语境化测量，而非单标签文本分类。毒性并不只存在于词语之中；当交际行为在规范和社会语境中被受众解读时，毒性才会显现。
我们引入情境压力框架（CSF），将毒性定义为感知到的规范违反与引发的压力或扰乱之间的关系。CSF 解释了为何文本内在检测器会过度标记方言或 reclaimed 语言，漏掉编码或语用层面的辱骂，并且在保持语义的变换下依然脆弱。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2503.16072 [cs.LG] |
| （或 arXiv:2503.16072v5 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2503.16072 由 DataCite 提供的 arXiv 颁发 DOI |
提交历史
来自：Sergey Berezin [查看电子邮件]
[v1]
2025年3月20日星期四 12:09:01 UTC（34 KB）
[v2]
2025年5月31日星期六 12:02:49 UTC（61 KB）
[v3]
2026年1月6日星期二 11:29:18 UTC（329 KB）
[v4]
2026年5月11日星期一 16:55:53 UTC（82 KB）
[v5]
2026年10月10日星期六 14:36:00 UTC（94 KB）
来源：arXiv cs.AI · arxiv.org