arXiv cs.CL· Zhihua Wang, Yifeng Gao, Yunhao Feng, Rui Pan, Baiheng Zhao, Zixing Chen, Nan Li·· 10 小时前AI 评分34
CST：面向网络讨论的轻量级风险分级与来源可溯证据
CST: Lightweight Risk Triage with Source-Grounded Evidence for Web Discussions
AI 导读
CST 是一套轻量级风险分级流水线，先定位再展示：用字符模式结合固定多语言模型的句义打分，可在普通 CPU 上运行并支持多语言。在五个数据集、多种语言的六项任务中，CST 对有害消息的排序准确率超过全量微调的多语言模型，同等预算下比单纯按分数阅读找到更多有害消息。用户研究中，评审者使用 CST 的分组证据节省至少 27% 时间，决策准确率仍高于 94%。
正文 · AI 翻译
摘要：网络社区依赖版主来发现侮辱、仇恨言论和诈骗等有害信息，但没有人能读完每一条消息。现有工具为每条消息给出风险评分，这告诉版主该往哪里看，却没有说明该读什么、如何核查。然而含义取决于上下文：同一句回复“我同意。”，既可能支持也可能反对将某人移出群组。因此，版主需要以原始来源为依据的证据，而不仅仅是评分：即保留原始措辞和回复的少量关键消息。我们提出 CST，一个轻量级分诊流水线，先决定往哪里看，再决定展示什么。它通过将捕捉精确措辞的字符模式与来自固定多语言模型的句子语义相结合来评估风险，因此可处理多种语言，并能在普通 CPU 上运行。随后它对相关消息进行分组，并依次从每组中挑选，使有限的阅读预算覆盖讨论的不同部分，并将每个挑选结果链接回原始讨论串。在来自五个数据集、多种语言的六项任务中，CST 对有害消息的排序比完全微调的多语言模型更准确，并且在相同预算下，比仅按评分阅读能发现更多有害消息。在一项用户研究中，审阅者使用 CST 的分组证据所需时间至少减少 27%，同时决策准确率保持在 94% 以上。CST 将风险评分转化为版主可以快速阅读并在上下文中核查的证据。代码和数据集重建资源将在此 https URL发布。
| 评论： | 23 页 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；信息检索（cs.IR） |
| 引用为： | arXiv:2611.01710 [cs.CL] |
| （或 arXiv:2611.01710v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.01710 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhihua Wang [查看电子邮件]
[v1]
2026 年 11 月 1 日星期日 08:59:14 UTC（11,546 KB）
来源：arXiv cs.CL · arxiv.org