arXiv cs.CY· Alexander Loth, Martin Kappes, Marc-Oliver Pahl·· 10 小时前AI 评分31
JudgeGPT 与 RogueGPT 框架因果分析：人类为何难辨基础模型幻觉与虚假信息
Eroding the Truth-Default: A Causal Analysis of Human Susceptibility to Foundation Model Hallucinations and Disinformation in the Wild
AI 导读
研究提出 JudgeGPT 与 RogueGPT 双轴框架，将"真实性"与"归因"解耦，基于 5 个基础模型（含 GPT-4 和 Llama-2）的 918 次评估，用结构因果模型分析人类识别准确率。
正文 · AI 翻译
摘要：随着基础模型（FM）接近人类水平的流畅度，区分合成内容与真实内容已成为可信网络智能的关键挑战。本文提出 JudgeGPT 和 RogueGPT，这是一个双轴框架，将“真实性”与“归因”解耦，以研究人类易受影响的机制。我们分析了五种基础模型（包括 GPT-4 和 Llama-2）的 918 次评估，采用结构因果模型（SCM）作为主要框架，用于构建关于检测准确性的可检验因果假设。与党派叙事相反，我们发现政治倾向与检测性能的关联可忽略不计（$r=-0.10$）。相反，“假新闻熟悉度”成为一个候选中介变量（$r=0.35$），表明接触假新闻可能对人类判别者起到对抗训练的作用。我们发现了一个“流畅度陷阱”，GPT-4 的输出（HumanMachineScore：0.20）绕过了来源监控机制，使其与人类文本无法区分。这些发现表明，“预先驳斥”干预应针对认知来源监控，而非人口统计细分，以确保可信的信息生态系统。
| 评论： | 8 页，4 幅图，另附补充附录。发表于 ACM Web Conference 2026 伴生论文集（WWW Companion '26），第 1125-1132 页 |
| 主题： | 计算机与社会（cs.CY）；人工智能（cs.AI）；计算与语言（cs.CL）；人机交互（cs.HC） |
| ACM 分类： | I.2.7；H.1.2；H.5.2 |
| 引用为： | arXiv:2601.22871 [cs.CY] |
| （或 arXiv:2601.22871v3 [cs.CY] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2601.22871 arXiv 颁发的 DOI（通过 DataCite） |
|
| 期刊 参考： | ACM Web Conference 2026 伴生论文集（WWW Companion '26），第 1125-1132 页 |
| 相关 DOI： | https://doi.org/10.1145/3774905.3795832
链接到相关资源的 DOI |
提交历史
来自：Alexander Loth [查看电子邮件]
[v1]
2026 年 1 月 30 日星期五 11:49:58 UTC（1,074 KB）
[v2]
2026 年 2 月 12 日星期四 08:07:44 UTC（1,074 KB）
[v3]
2026 年 10 月 29 日星期四 19:35:57 UTC（1,075 KB）
来源：arXiv cs.CY · arxiv.org