“AI slop”一词如何掩盖了我们真正该进行的 AI 讨论

“AI slop”这个词掩盖了我们本该进行的对话。当我们称某样东西为“AI slop”时，我们往往不只是抱怨某一个输出。乐观者用这个词把失败与AI的承诺隔离开来；批评者则用它来指控整个技术。于是，slop-talk让我们觉得自己在讨论重要的社会议题，而实际上并没有。我认为，我们应该公开进行那些讨论。

今年春天，arXiv开始封禁那些投稿带有未经审查的AI使用痕迹的作者，这是若干重要机构针对“AI slop^{1, 2}”采取行动的最新一例。这些反应合情合理，因为廉价合成文本如今不仅充斥研究资料库，还涌入传统媒体和社交媒体、艺术、广告，甚至法律文书。但让我担忧的与其说是slop本身，不如说是我们如何使用这个词。有时我们只是用它来抱怨一个糟糕的AI输出，但很多时候，我们用它偷偷塞进两种关于AI在社会中应有角色的更宏大观点之一，在参与一场重要社会辩论的同时，表面上却只是在嘲笑某一个输出。这种操作很滑溜，往往并非有意，却让我们得以回避本该进行的重要讨论。

“AI slop”可以表达的一种态度是隔离。在这种用法中，slop被视为不幸且不具代表性。称其为“slop”，就是试图把它与AI能够产出的好东西隔开——有用的翻译、真正有帮助的代码，或新的数学发现³。OpenAI推出Sora 2时，Sam Altman就是这样使用这个词的。他写道，创造力可能正走向“寒武纪大爆发”，而“RL优化的slop信息流”则是他们极力避免的退化情形⁴。谷歌在其AI搜索建议用胶水让奶酪留在披萨上时，也试图采取这种态度。该公司称这类结果来自不常见的查询⁵。这个尴尬案例被隔离起来，以便发布继续推进。

第二种态度是传染。在这种用法中，slop不是有缺陷的样本，而是一种揭示。糟糕的输出向我们展示了AI究竟是什么：一种本质上派生、粗心，并敌视它所赖以滋养的文化的技术。批评者说，看看那些合成童书、没人真正写过的学生论文，以及没人愿意署名的道歉邮件吧。这些并非不幸的副产品，而是AI能为我们做什么的完美代表。这正是Madsen和Puyt的做法⁶，他们把大量派生、回收的输出不视为需要清理的缺陷，而视为AI的本质。三周后，《大西洋月刊》的Charlie Warzel对Sora 2发布的回应也是如此。那篇文章宣称：“AI slop正在获胜”，而Altman所描述的，是“一个没有技艺的创造力世界⁷”。

这两种态度都有值得称道之处。隔离态度正确地提醒我们，并非每个 AI 系统或输出都是一样的。传染态度则提醒我们要警惕垃圾内容，因为许多激励机制都在奖励廉价、低价值的生产。我的担忧不在于这两种态度本身，而在于这个术语如何让我们得以回避说明自己究竟意指的是哪一种。在乐观者心中，它只是垃圾，重点落在“垃圾”上；在批评者心中，它全是垃圾，重点落在“AI”上。更重要的是，在更大的社会问题上立场相反的两个人，可能会在讨论后以为彼此意见一致，因为他们已经就某些输出是 AI 垃圾达成了共识，而实际上，更大的分歧被他们使用这个术语时不同的意图掩盖了。

诀窍在于，“AI 垃圾”表面上是对某个输出的裁决，却暗中暗示着对这项技术的裁决^{8, 9}，这与指责一段文字“听起来像 AI¹⁰”背后的手法如出一辙。除了称某个输出廉价、低价值之外，它还引人厌恶，暗示我们应当退缩（语言哲学家会称之为“厚”术语，即同时描述和评价）。这种退缩可以意味着两件不同的事。在乐观者口中，这是推动将输出与 AI 有价值的工作隔离开来；在批评者口中，这是推动彻底扼杀整个事业。但对某个具体输出的厌恶是一回事，对整个类别的裁决是另一回事，而这个术语让我们在不知不觉中从前者滑向后者。

我们可以通过回想在 AI 出现之前很久就有垃圾内容¹¹，看出这种滑移是一种欺骗。曾经有糟糕的小说、公式化的电影、空洞的讲座，以及长篇大论却言之无物的学术委员会报告。但没有人认为糟糕的小说决定了文学的价值，也没有人认为一份毫无价值的报告决定了学术界是否应该保留委员会。这一点是双向的。我们机器产出的垃圾并不能表明 AI 毫无价值，正如其优秀输出也不能表明它整体上是好的。所以，当关于“AI 垃圾”的讨论似乎与此相关时，真正起作用的必定是某种关于 AI 应有角色的背景观点。我们真正需要讨论的正是那种背景观点，而当我们通过“AI 垃圾”抵达那里时，它通常是被悄悄带入且未经辩护的。

这并不是说AI垃圾没有什么独特之处。AI 确实改变了生产低价值输出的规模、速度和成本，并使其中一些更难被发现、更有利可图地传播，也更容易毒害未来模型学习所依据的数据¹²。这些是真实的担忧，但它们是关于这项技术如何被设计、拥有、部署和使用的担忧。它们并不能证明其整体价值或毫无价值。

与 slop 天然相对的是质量，而通常质量就是问题的全部。问某篇稿件是不是 slop，你通常只是在问它写得好不好，而这可能正是编辑需要知道的全部。但质量并不代表一种关于我们应当如何生活的立场。AI 越强，就越容易让人以为质量能决定更大的事情。它不能。机器可以写出一封无可挑剔的吊唁信，而这样一封信是否应当由机器来写，这个问题依然原封不动地摆在那里。质量回答了容易的问题，对难的问题保持沉默。

所以，与其聚焦于 AI slop，我们不如直接去问那些 slop 话语让我们借由看似解决而得以推迟的问题——关于我们应当建设什么样的社会，以及 AI 应当在其中扮演什么角色的问题。当有人生病、孤独或恐惧时，我们希望房间里有一个真人，还是机器人也行？¹³我们希望孩子主要由人来教导和塑造，还是乐意把这件事交给机器？当法庭权衡该相信谁，或雇主决定该雇用谁时，我们希望决定背后有一个人，还是机器来筛选就行？¹⁴我们希望日益支配我们生活的系统由少数私营公司操控，还是受到更广泛的问责？我们希望拥有一个能共同理解的共享世界，还是一个被合成内容淹没到无人能分辨真假的世界？¹⁵这些问题没有一个能通过追问 AI 产出的是质量还是 slop 来回答。它们关乎我们想要的共同生活，而当我们伸手去抓“AI slop”这个词时，我们正是在这些问题上草率地互相推搡，却从未把它们摆到台面上来面对。

我不是说我们应该禁用“AI slop”这个词。有时我们想给那些该被倒进槽里的东西起个名字，这个词就够用了。但我们不应再让它代替我们本该进行的艰难集体讨论。有一些小的起步方式。当我们伸手去抓“AI slop”时，可以试着明确我们到底是在对某个产出下判断，还是在对这项技术下判断。而我们的机构在封禁 slop 时，也可以说明它们正在决定什么、没有决定什么。

再以 arXiv 为例。值得肯定的是，它实施的规则比新闻标题所暗示的要窄。在宣布该规则时，arXiv 计算机科学部门的主席澄清说，该规则只关乎所提交作品的质量，他写道，当一篇投稿显示出“作者没有检查 LLM 生成结果的确凿证据”时，其结果是“我们无法信任论文中的任何内容¹⁶”。但就我更大的论点而言，这项禁令被解读为一种立场表态。一位评论者欢呼这是对“垃圾机器”的打击¹⁷，而另一位则反驳说，AI 生成的文本“本身不是问题”，应对垃圾泛滥的答案或许是“更多 AI，而不是更少¹⁸”。因此，尽管一项政策可以只聚焦于质量问题，但这个术语会把更大的议题牵扯进来，而它在两种不同含义下被使用，这种差异却从未被标明。这正是为什么说明你用这个术语时意指什么、不意指什么很重要，而当他人使用这个术语时，我们也应当追问他们是什么意思。这样我们才能在应对那些更大的社会问题上取得进展：我们想把多少共同生活交给这项技术，又想为自己保留多少。

数据可用性

本研究未生成或分析任何数据集。

参考文献

Chawla, D. S. 使用幻觉参考文献的研究者将面临 arXiv 禁令。Nature 653, 988–989 (2026)。
文章 Google Scholar
Giray, L., Sevnarayan, K., Maphoto, K. B. & Wider, W. 学术出版中的 AI 垃圾：历史、特征、表现、成因与缓解策略。Internet Ref. Serv. Q. 30, 221–244 (2026)。
Google Scholar
Romera-Paredes, B. 等。利用大语言模型进行程序搜索的数学发现。Nature 625, 468–475 (2024)。
文章 Google Scholar
Altman, S. Sora 2。https://blog.samaltman.com/sora-2 (2025)。
Reid, E. AI Overviews：关于上周。Google https://blog.google/products/search/ai-overviews-update-may-2024/ (2024)。
Madsen, D. Ø. & Puyt, R. W. 当 AI 把文化变成垃圾。AI Soc. 41, 1287–1288 (2026)。
文章 Google Scholar
Warzel, C. 一个扼杀创造力的工具。Atlantic https://www.theatlantic.com/technology/2025/10/ai-slop-winning/684630/ (2025)。
Shanahan, M. 谈谈大语言模型。Commun. ACM 67, 68–79 (2024)。
文章 Google Scholar
Foster, J. & Ichikawa, J. 规范性推理通行证。Episteme 22, 47–73 (2025)。
文章 Google Scholar
Ciriello, R. 论学术出版中生成式 AI 怀疑论令人不安的兴起。Nat. Mach. Intell. 8, 136–137 (2026)。
文章 Google Scholar
Kommers, C. 等。为什么垃圾很重要。ACM AI Lett. 1, 1–6 (2026)。
文章 Google Scholar
Shumailov, I. 等。AI 模型在递归生成数据上训练时会崩溃。Nature 631, 755–759 (2024)。
文章 Google Scholar
Turkle, S. Alone Together: Why We Expect More from Technology and Less from Each Other (Basic Books, 2011)。
Huq, A. Z. 人类决策权。Va. Law Rev. 106, 611–688 (2020)。
Google Scholar
Rini, R. 深度伪造与认知后盾。Philos. Impr. 20, 1–16 (2020)。
Google Scholar
Dietterich, T. G. 在 X 上的帖子。https://x.com/tdietterich/status/2055000956144935055 (2026)。
Gerard, D. arXiv 因 AI 垃圾论文封禁学术作者。Pivot to AI https://pivot-to-ai.com/2026/05/15/arxiv-bans-academic-authors-for-ai-slop-papers/ (2026)。
Kovanovic, V. 一个重要的科学出版平台正在打击 AI 垃圾内容。The Conversation https://theconversation.com/a-key-science-publishing-platform-is-cracking-down-on-ai-slop-283136 (2026)。

下载参考文献

致谢

感谢 Luca Garzino Demo、Jennifer Morton、Nate Sharadin 和 Frank Saunders Jr. 就启发本文的想法进行的早期讨论。作者使用 Claude Opus 4.8 和 Fable 5 提供编辑建议、修改措辞和查找参考文献。论点、所有实质性选择以及最终文本均出自作者本人，作者对内容承担全部责任。本研究未获得任何资助。

作者信息

作者与单位

美国宾夕法尼亚州费城，宾夕法尼亚大学文理学院哲学系，以及沃顿商学院法律研究与商业伦理系
Daniel J. Singer

作者

Daniel J. Singer

贡献

D.J.S. 负责本文制作的所有方面。

通讯作者

通讯请联系 Daniel J. Singer。

伦理声明

利益冲突

作者声明无利益冲突。

附加信息

出版商注 Springer Nature 对已发表地图中的管辖权主张和机构隶属关系保持中立。

权利与许可

开放获取 本文根据 Creative Commons Attribution 4.0 International License 许可，允许以任何媒介或格式使用、共享、改编、分发和复制，只要您适当注明原作者和来源、提供 Creative Commons 许可链接，并说明是否进行了修改。本文中的图片或其他第三方材料包含在文章的 Creative Commons 许可中，除非在材料的署名行中另有说明。如果材料未包含在文章的 Creative Commons 许可中，且您的预期用途不被法定法规允许或超出许可范围，您需要直接从版权持有人处获得许可。要查看此许可的副本，请访问 http://creativecommons.org/licenses/by/4.0/。

转载与许可

关于本文

引用本文

Singer, D.J. “AI slop”掩盖了我们本应进行的对话。 npj Artif. Intell. 2, 68 (2026). https://doi.org/10.1038/s44387-026-00161-8

下载引用

收稿日期：2026年7月6日
接受日期：2026年9月5日
发布日期：2026年9月24日
记录版本：2026年9月24日
DOI：https://doi.org/10.1038/s44387-026-00161-8