arXiv cs.CY· Lucca Pfr\"under, Riccardo Loconte, Bruno Verschuere, Bennett Kleinberg·· 6 天前AI 评分32
对抗攻击揭示人类与生成式语言模型在欺骗能力上的差异
Adversarial Attacks Reveal Divergent Deception Competence in Humans and Generative Language Models
AI 导读
一项预注册实验（n=501）对比了人类与生成式语言模型对自动欺骗分类器的改写攻击效果，发现人类更擅长将真话改写成谎言，而生成式语言模型更高效地让谎言听起来像真话。计算文本分析显示，人类有针对性地利用欺骗线索，语言模型则施加通用的真实性信号改动。这一失败是双向的：既暴露了机器检测谎言的盲点，也意味着语言模型可能助长成功的欺骗。
正文 · AI 翻译
摘要：机器学习模型在欺骗检测方面通常优于人类。机器学习模型面临的一个威胁是它们容易受到对抗性攻击：对输入数据进行细微而有针对性的扰动，诱使模型错误分类。然而，这也提供了一个机会：理解人类与机器如何构造攻击，为关于欺骗的二阶信念提供了新的见解。在一项预注册实验（n = 501）中，我们比较了人类和生成式语言模型对自动欺骗分类器进行改写攻击的有效性、效率和性质。我们发现，在将真实陈述改写为欺骗性陈述时，人类是更有效的攻击者，而生成式语言模型在让谎言听起来像真话方面更有效、更高效。计算文本分析表明，这是因为人类有针对性地利用欺骗线索，而生成式语言模型则相反，应用的是表明真实的通用改动。未能模仿欺骗是双向的：它既暴露了越来越多用于检测谎言的机器中的一个盲点，也意味着语言模型可能有助于成功说谎。
| Subjects: | 计算机与社会 (cs.CY) |
| 引用为： | arXiv:2610.13363 [cs.CY] |
| （或 arXiv:2610.13363v1 [cs.CY] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.13363 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
发件人：Lucca Pfründer [查看电子邮件]
[v1]
2026年10月9日星期五 10:38:39 UTC（2,260 KB）
来源：arXiv cs.CY · arxiv.org