arXiv cs.CL· Shuai Wu, Xue Li, Zhijun Wang, Bolun Liu, Weilin Cai, Zihao Su, Ran Wang·· 10 天前AI 评分26
前沿图像生成模型与合成视觉证据的真实世界风险综述
Seeing Is No Longer Believing: Frontier Image Generation Models, Synthetic Visual Evidence, and Real-World Risk
AI 导读
一篇综述梳理了前沿图像生成模型如何产出逼真照片、可读文档和一致的人物与场景，并分析这些合成图像在新闻、金融、身份验证、医疗和法律中被当作真实记录时所具备的证据效力。研究区分了厂商能力宣称、已记录事件、实验发现与潜在危害路径，并比较了供应商限制、来源溯源系统、水印、平台标注与政策义务在功能上与独立验证的差异。高风险决策需依赖可认证的来源记录、可信渠道佐证与行动前的适度审查。
正文 · AI 翻译
摘要：图像生成系统能够生成逼真的照片、可读的文档，以及对人物和地点的一致描绘。当这些产物被当作真实事件的记录呈现时，它们可能影响新闻、金融、身份验证、医学和法律领域的决策。本叙述性综述考察了截至 2026 年 10 月 1 日可获取的部分公开模型文档、事件报告、研究和治理来源，并以中英文社区材料提供说明性背景。我们区分了厂商的能力声明、已记录的事件、实验发现和潜在危害路径。该分析将真实感、文本渲染、参考一致性、编辑、接地和生产成本与合成图像获得证据权威的条件联系起来。历史事件说明了这些路径；它们并不确立当前模型的滥用率。我们比较了提供方限制、来源系统、水印、平台标注和政策义务，并解释了它们的功能与对所描绘事件或交易的独立验证有何不同。该框架将产物类型和决策情境与可用控制措施的功能联系起来。高风险决策需要经过认证的来源记录、通过可信渠道的佐证，以及在采取行动前进行相称的审查。
| 评论： | 24 页，13 幅图。对图像生成能力、合成视觉证据和治理的修订综述 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| ACM 分类： | I.2.7；I.2.10；K.4.1；K.6.5 |
| 引用为： | arXiv:2604.24197 [cs.CL] |
| （或 arXiv:2604.24197v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.24197 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Shuai Wu [查看电子邮件]
[v1]
2026 年 4 月 27 日星期一 08:59:40 UTC（584 KB）
[v2]
2026 年 7 月 6 日星期一 10:10:55 UTC（584 KB）
[v3]
2026 年 10 月 7 日星期三 10:47:56 UTC（163 KB）
来源：arXiv cs.CL · arxiv.org