arXiv cs.CL· Paul R\"ottger, Kobi Hackenburg, Hannah Rose Kirk, Christopher Summerfield·· 6 天前AI 评分62
研究：AI 写作辅助如何扭曲对使用者及其观点的认知
How AI Writing Assistance Distorts Perceptions of AI Users and Their Opinions
AI 导读
arXiv 论文《How AI Writing Assistance Distorts Perceptions of AI Users and Their Opinions》通过实验发现，使用 AI 辅助写作会让他人认为作者更固执己见、更有能力、更积极且更具人口统计优势。
正文 · AI 翻译
摘要：数亿人使用 AI 辅助写作。我们研究了 AI 如何扭曲人们对 AI 使用者及其观点的认知。写作者（N=2,939）在有无 AI 辅助的情况下撰写政治观点段落。另外的读者（N=11,091）在不知情的情况下评估这些段落并对写作者做出推断。借助 AI，写作者显得更有主见、更有能力、更积极，且在人口特征上更具优势。写作者对其中许多扭曲表示反对，但即使在被明确告知这些扭曲后，仍更偏好 AI 辅助的文本。基于我们的数据训练的奖励模型减轻了令人反感的扭曲，但降低了用户接受度。另外的读者（N=8,798）更信任 AI 辅助的写作者，并且当 AI 的扭曲程度更高时，更容易被 AI 写作说服。总体而言，AI 写作辅助带来的扭曲普遍存在，在人类监督下依然持续，并且很可能对人类行为和态度产生重大影响。
| 评论： | 补充材料、代码和数据见 此 https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2604.22503 [cs.CL] |
| （或 arXiv:2604.22503v3 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2604.22503 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Paul Röttger [查看电子邮件]
[v1]
2026年4月24日星期五 12:31:11 UTC（1,354 KB）
[v2]
2026年6月29日星期一 11:51:27 UTC（1,436 KB）
[v3]
2026年10月8日星期四 19:19:51 UTC（3,683 KB）
来源：arXiv cs.CL · arxiv.org