arXiv cs.AI· Zixuan Liu, Ming Cao·· 11 小时前AI 评分31
研究：不完美的自动事实核查工具何时会适得其反
When Imperfect Automated Fact-Checking Backfires: Social Learning in the Presence of Misinformation
AI 导读
一项序贯社会学习模型研究发现，在平台上补充免费但有错误的自动事实核查工具，对中等可靠度文章反而会严格降低正确级联的概率——前提是真实文章信息量不高且人工核查成本足够高。模拟显示，该工具仅在准确率超过某一阈值时，平均表现才优于纯人工核查。
正文 · AI 翻译
摘要：自动化事实核查工具成本低、速度快但并不完美，正越来越多地出现在社交平台上。我们研究此类工具在错误信息的序贯社会学习模型中何时会适得其反。智能体观察文章的可信度以及前人的行为，这些行为表明他们喜欢还是不喜欢该文章。他们也可能付费对其进行事实核查。我们考察当一种免费、易出错的自动化工具补充成本高昂但完全准确的人工事实核查时，福利（定义为形成正确级联的概率）如何变化。由此产生两种相反效应。更广泛地使用事实核查有助于智能体摆脱错误的级联。与此同时，自动化工具的错误可能误导那些原本会完美核实文章的智能体，从而降低正确级联的可能性。我们证明，当真实文章的信息量不太大且人工核查成本足够高时，加入该工具会严格降低中等可信度文章的福利。模拟表明，该工具在中等范围的任一侧都可能有所帮助，并且只有在准确率超过某一阈值时，其平均表现才优于仅人工核查。
| 评论： | 8 页，5 幅图 |
| 主题： | 人工智能（cs.AI）；系统与控制（eess.SY） |
| 引用为： | arXiv:2611.08053 [cs.AI] |
| （或 arXiv:2611.08053v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.08053 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zixuan Liu [查看邮箱]
[v1]
2026 年 11 月 5 日星期四 14:10:05 UTC（283 KB）
来源：arXiv cs.AI · arxiv.org