arXiv cs.CY· Jacqueline Rowe, Animesh Srivastava, Sai Teja Peddinti, Seliem El-Sayed, Nina Taft·· 10 天前AI 评分25
用社交媒体评论追踪不断演变的 AI 危害：LLM 辅助主题分析管线
Move Fast and Mend Things: Keeping Up with Evolving AI Harms Using Social Media Commentary
AI 导读
研究者提出一套 LLM 辅助主题分析管线，从大规模社交媒体数据中动态检测、分类并追踪新兴 AI 危害。基于 18 个月（2025 年 1 月至 2026 年 6 月）570 万条 Reddit 帖子摘要，团队构建并发布含 57.5 万条 AI 危害相关帖子的数据集，以及涵盖 12 个类别、47 个子节点的自下而上 AI 危害分类体系。
正文 · AI 翻译
摘要：AI 系统的快速部署已造成社会技术、心理和运营层面的危害，这些危害可能无法被事前威胁建模和事后事件追踪所捕捉。我们引入了一套 LLM 辅助的主题分析流程，用于从大规模社交媒体数据中动态检测、分类和追踪新出现的 AI 危害。将其应用于 18 个月（2025 年 1 月至 2026 年 6 月）内 570 万条 Reddit 帖子摘要，我们整理并发布了一个包含 575,000 条 AI 危害相关帖子的数据集，以及一个自下而上的 AI 危害分类体系，涵盖 12 个类别和 47 个子节点。该分类体系可靠地覆盖了专家已定义的既有风险，同时揭示出自上而下框架所忽略的细粒度危害，例如不同形式的 AI 隐私侵犯。时间分析揭示了不断演变的以用户为中心的危害，例如智能体隐私与安全漏洞、工作场所中 AI 的过早采用，以及因 AI 伴侣停用而产生的悲伤。我们的流程缩短了危害检测的时间线，从而为更具参与性和响应性的 AI 治理工作提供了补充。
| 主题： | 人机交互（cs.HC）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.09082 [cs.HC] |
| （或 arXiv:2610.09082v1 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.09082 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Seliem El-Sayed [查看电子邮件]
[v1]
2026 年 10 月 6 日星期二 20:24:10 UTC（226 KB）
来源：arXiv cs.CY · arxiv.org