arXiv cs.AI· Alexander Loth, Martin Kappes, Marc-Oliver Pahl·· 13 小时前AI 评分31
工业化欺骗：LLM 生成虚假信息对数字生态的连带影响
Industrialized Deception: The Collateral Effects of LLM-Generated Misinformation on Digital Ecosystems
AI 导读
研究提出 JudgeGPT 与 RogueGPT 两个工具，构成研究人类如何感知和检测 AI 生成虚假信息的实验流水线。作者指出 LLM 与多模态系统让 AI 生成内容质量提升，检测能力虽有改善，但生成与检测之间的竞争仍在持续。缓解策略包括基于 LLM 的检测与“接种”式干预，并讨论了生成式 AI 的两用性质。
正文 · AI 翻译
摘要：自我们 2024 年的综述以来，生成式 AI 与虚假信息研究已有所发展。本文提出更新后的视角，从文献综述转向实际对策。我们报告了威胁态势的变化，包括通过大语言模型（LLM）和多模态系统改进的 AI 生成内容——应对 AI 对信息质量的不利影响。
本工作聚焦于我们的实际贡献：JudgeGPT，一个用于评估人类对 AI 生成新闻感知的平台；以及 RogueGPT，一个用于研究的受控刺激生成引擎。这些工具共同构成了一条实验流程，用于研究人类如何感知和检测 AI 生成的虚假信息。
我们的研究结果表明，检测能力有所提升，但生成与检测之间的竞争仍在持续。我们讨论了缓解策略，例如基于 LLM 的检测、接种式方法以及生成式 AI 的双重用途性质。
| 评论： | 8 页，2 幅图。发表于 ACM Web Conference 2026 会议论文集（WWW Companion '26），第 295-302 页 |
| 主题： | 计算机与社会（cs.CY）；人工智能（cs.AI）；计算与语言（cs.CL）；社会与信息网络（cs.SI） |
| ACM 分类： | I.2.7; K.4.1; K.4.2; H.3.5 |
| 引用为： | arXiv:2601.21963 [cs.CY] |
| （或本版本使用 arXiv:2601.21963v3 [cs.CY]） | |
| https://doi.org/10.48550/arXiv.2601.21963 由 DataCite 颁发的 arXiv DOI |
|
| 期刊 参考： | Companion Proceedings of the ACM Web Conference 2026 (WWW '26 Companion)，第 295-302 页 |
| 相关 DOI： | https://doi.org/10.1145/3774905.3795471
链接到相关资源的 DOI |
提交历史
来自：Alexander Loth [查看电子邮件]
[v1]
2026 年 1 月 29 日星期四 16:42:22 UTC（26 KB）
[v2]
2026 年 2 月 11 日星期三 14:35:21 UTC（26 KB）
[v3]
2026 年 10 月 29 日星期四 17:03:03 UTC（28 KB）
来源：arXiv cs.AI · arxiv.org