arXiv cs.AI· Alexander Loth, Martin Kappes, Marc-Oliver Pahl·· 13 小时前AI 评分31
验证危机：专家如何看待 GenAI 虚假信息与可复现溯源
The Verification Crisis: Expert Perceptions of GenAI Disinformation and the Case for Reproducible Provenance
AI 导读
一项针对 21 名 AI 研究者、政策制定者和虚假信息专家的纵向专家感知调查发现，深度伪造视频带来即时“冲击”效应，但大规模文本生成在政治领域构成“认知碎片化”与“合成共识”的系统性风险。专家对技术检测工具持怀疑态度，更倾向溯源标准与监管框架，尽管落地存在障碍。研究提出将信息完整性视为基础设施，强调数据溯源与方法可复现性，并呼吁建立标准化 benchmark 与可复现性清单。
正文 · AI 翻译
摘要：生成式人工智能（GenAI）的发展使虚假信息生产从人工伪造转向自动化、大规模操纵。本文呈现了一项纵向专家认知调查第一轮的结果（N=21），调查对象包括 AI 研究人员、政策制定者和虚假信息专家。研究考察了多模态威胁——文本、图像、音频和视频——的感知严重程度，并评估了当前的缓解策略。结果表明，尽管深度伪造视频具有即时的“冲击”价值，但大规模文本生成带来了“认知碎片化”和“合成共识”的系统性风险，在政治领域尤为突出。调查显示专家对技术检测工具持怀疑态度，尽管存在实施障碍，他们更倾向于来源标准与监管框架。GenAI 虚假信息研究需要可复现的方法。当前的挑战在于测量：缺乏标准化基准和可复现性检查清单，追踪或对抗合成媒体仍然困难。我们提出将信息完整性视为一种基础设施，在数据来源和方法可复现性上保持严谨。
| 评论： | 9 页。作者版本；正式版本发表于 Companion Proceedings of the ACM Web Conference 2026 (WWW '26 Companion)，第 980-988 页 |
| 主题： | 计算机与社会（cs.CY）；人工智能（cs.AI）；社会与信息网络（cs.SI） |
| ACM 分类： | K.4.1; K.4.2; I.2.7; H.1.2 |
| 引用为： | arXiv:2602.02100 [cs.CY] |
| （或 arXiv:2602.02100v2 [cs.CY] 为本版本） | |
| https://doi.org/10.48550/arXiv.2602.02100 arXiv 颁发的 DOI（通过 DataCite） |
|
| 期刊 参考： | Companion Proceedings of the ACM Web Conference 2026 (WWW '26 Companion)，第 980-988 页 |
| 相关 DOI： | https://doi.org/10.1145/3774905.3795484
链接到相关资源的 DOI |
提交历史
来自：Alexander Loth [查看邮箱]
[v1]
2026 年 2 月 2 日星期一 13:45:12 UTC（23 KB）
[v2]
2026 年 10 月 29 日星期四 11:35:05 UTC（26 KB）
来源：arXiv cs.AI · arxiv.org