arXiv cs.AI· Manar Alsaid·· 3 天前AI 评分22
研究评估 AI 模型在预设社交噪声构念下的虚假信息检测表现
Assessing the Performance of AI Models in Misinformation Detection Using Predefined Social Noise Constructs
AI 导读
一项研究评估了六种文本模型和一个图神经网络（GNN）在预设社交噪声构念下缓解虚假信息的效果，数据集为 2024 年 3 月至 2025 年 3 月从 X 平台采集的 50 万条乌克兰话题推文。
正文 · AI 翻译
摘要：社交媒体平台产生了海量的用户生成内容，这些内容往往掩盖了有意义的讨论，这一现象被概念化为社会噪声。现有的虚假信息检测方法主要侧重于事实核查，但在很大程度上忽视了社会噪声在放大虚假信息中的作用。本研究使用预定义的社会噪声构念，评估了六种基于文本的模型和一个图神经网络（GNN）在减轻虚假信息影响方面的性能。数据集包含从 X 平台使用乌克兰话题标签在 2024 年 3 月至 2025 年 3 月俄乌冲突期间收集的 500,000 条推文。先进的机器学习模型取得了强劲的性能，准确率在 79.94% 至 97.17% 之间。RoBERTa 表现最佳，准确率为 97.17%，Cohen's kappa 为 0.9660，MCC 为 0.9660，AUC 为 0.9977。GNN 的准确率为 64.52%，AUC 为 0.899，通过利用推文之间的关系结构，其性能优于随机分类。所有基于文本的模型均达到大于 0.75 的 kappa 值，表明总体一致性显著。使用 LIME 的可解释 AI 分析显示，89.6% 的预测权重归因于上下文特征，而非孤立的关键词。研究结果表明，将社会噪声整合到 AI 流程中可增强虚假信息检测，并支持在大规模社交媒体环境中采取更有效的缓解策略。
| 评论： | 22 页，12 个表格，2 幅图和 1 个附录 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.17469 [cs.LG] |
| （或 arXiv:2610.17469v1 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.17469 arXiv 颁发的 DOI 通过 DataCite（待注册） |
|
| 期刊 参考： | ACM Transactions on Asian and Low-Resource Language Information Processing, 2026 |
提交历史
来自：Manar Alsaid [查看电子邮件]
[v1]
2026年10月12日星期一 22:31:47 UTC（1,554 KB）
来源：arXiv cs.AI · arxiv.org