arXiv cs.CY· Claire Wonjeong Jo, Miki Weso{\l}owska, Magdalena Wojcieszak·· 11 小时前AI 评分31
有害 YouTube 视频检测：在线危害分类体系与 MLLMs 作为替代标注者
Harmful YouTube Video Detection: A Taxonomy of Online Harm and MLLMs as Alternative Annotators
AI 导读
研究提出将在线危害分为 Information、Hate and harassment、Addictive、Clickbait、Sexual、Physical 六类的多模态分类体系，并系统测试 MLLMs 作为有害视频替代标注者。
正文 · AI 翻译
摘要：全球数十亿用户使用的视频平台因让用户接触有害内容而受到批评。然而，由于对何为伤害的界定方法不一致以及人工标注的局限性，检测网络伤害仍然具有挑战性。我们应对了这两项挑战。在理论上，我们整合并扩展了现有的分类法和平台指南，将其应用于多模态语境，并制定了一套全面的网络伤害分类体系。我们将视频平台上的网络伤害按内容划分为六个类别：信息类、仇恨与骚扰类、成瘾类、标题党类、性相关类和身体伤害类。在方法上，我们提出并系统性地测试了多模态大语言模型（MLLMs）作为有害视频的替代标注者。我们构建了一个包含 19,422 个潜在有害 YouTube 视频的数据集，并使用 GPT-4-Turbo、未经训练的众包工作者和经过训练的标注者对其进行标注。我们讨论了 MLLMs 在平台内容审核和社会科学研究中的潜在应用，尤其是在二分类和多标签分类任务中其表现与人类标注者相当的情境下。
| 主题： | 多媒体（cs.MM）；人工智能（cs.AI）；计算机视觉与模式识别（cs.CV）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2411.05854 [cs.MM] |
| （或本版本的 arXiv:2411.05854v2 [cs.MM]） | |
| https://doi.org/10.48550/arXiv.2411.05854 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Claire Wonjeong Jo [查看邮箱]
[v1]
2024 年 11 月 6 日星期三 23:48:30 UTC（1,073 KB）
[v2]
2026 年 10 月 14 日星期三 20:10:11 UTC（720 KB）
来源：arXiv cs.CY · arxiv.org