维基百科 AI 清理项目成员谈 AI 生成内容的检测与治理

Ellia Lebleu 是WikiProject AI Cleanup的创始成员，这是一个于2023年发起的志愿者行动，旨在查找并删除维基百科上违反网站准则的AI生成内容。清理工作开始时，AI写作往往因明显的陈词滥调而暴露。如今，该项目的志愿者正在开发工具来检测更隐蔽的机器生成内容，并讨论AI在这部世界上使用最广泛的百科全书中所扮演的角色。

你是什么时候意识到维基百科存在AI生成内容问题的？

Ellia Lebleu：大约是在2023年12月。我和其他几位编辑在维基百科的Discord服务器上聊天，我们都看到过一些非常奇怪的文章，带有同样古怪的特征。它们反复出现“stands as a testament”或“rich cultural heritage”之类的短语。它们有时会有结论部分，或者名为“Why is this important?”的部分。这在2023年和2024年初的ChatGPT中非常典型，但对维基百科文章来说非常奇怪——而且非常容易发现。于是我决定，我们在维基百科上创建一个正式项目，让更多人能够处理这个问题。

Ellia Lebleu

Ellia Lebleu 是 WikiProject AI Cleanup 的创始成员。Lebleu 正在雷恩大学 Inria 中心攻读AI博士学位，该中心隶属于法国国家数字科学与技术研究院。

如今编辑们如何识别AI生成的文字？

Lebleu：到2025年，AI写作的迹象变得更加隐蔽，也更具结构性。例如，AI喜欢“三法则”、否定平行结构以及其他修辞结构，这些本身并不足以定论，但随着不断累积就变得有意义了。我们也会在文章之外寻找线索。如果有人在5分钟内写出五篇各数千字的文章，就有理由怀疑是AI。

AI问题只出现在正文中，还是也出现在引用中？

Lebleu：虚假或误导性引用已成为一大担忧。有时AI会完全凭空捏造一条引用，不过如今这种情况要少见得多，因为检索增强生成让AI能够找到来源。更常见的是，它找到了真实来源，却把内容完全弄错。实际上并不支持所写内容的AI引用极其普遍。

英文维基百科最近禁止编辑使用LLM生成文章。目前仍有多少AI生成内容在混入？

Lebleu：我一直在与[AI检测公司]Pangram合作，估算AI生成内容的比例。我在ChatGPT之前的维基百科内容上测试了它，没有发现误报，因此其结果提供了一个非常保守的下限。2025年底，它将大约20%的新文章和草稿标记为AI生成。到2026年初，这一比例降至15%或16%。但我们尚不清楚，这是因为我们近期的政策产生了效果，还是因为模型变得更强大而Pangram还没来得及适应。

维基百科是否在用AI对抗AI？

Lebleu：另一位维基百科编辑制作了一个 AI 来源验证器，它会检查页面上的来源，核对它们是否与条目中的陈述相符。由于它本身就是一个 AI 模型，因此无法保证每次都能正确。但如果你想要一个能大规模运作并过滤掉明显问题的工具，它是一个不错的起点。维基媒体基金会也在开发一款名为 Paste Check 的工具，它可以标记出直接从某些 AI 聊天机器人 粘贴过来的文本。

我们还看到 Claude 有时会说：“我不能撰写维基百科条目；那会违反维基百科的政策。”如果所有主要 AI 公司都实施这种提示词拒绝，问题也不会完全解决，因为仍然有可以调整以规避限制的开放权重模型。但对于使用商业模型且对这项技术不太熟悉的人来说，这会有所帮助。

你能判断禁止 AI 写作的规则是否在起作用吗？

Lebleu：现在下结论还为时过早。我们看到了可能的效果，例如提示词拒绝以及 AI 生成内容似乎略有下降。但同样，我们还不知道这是因为模型变得更好了，还是因为新手正在学习规则。绝大多数 AI 生成内容都是由新手编辑提交的，因此我们做了许多努力，让这条规则在欢迎信息、编辑帮助和建议中非常醒目。

如果 AI 变得能够撰写真正可靠的维基百科条目，那会怎样？

Lebleu：这是我们面临的重大问题之一。当这项指引通过时，是出于非常实际的原因：我们被 AI 内容淹没，没有好的工具，需要制止这种情况。但自那以后，它有了更哲学化的维度。许多人称维基百科为“互联网上最后的好地方”。在理论上不受 AI 垃圾内容侵扰，已成为维基百科身份的一部分。

维基百科的许多传播现在都围绕着一个理念：我们是一部由人类撰写的百科全书。甚至 AI 公司也觉得这很有趣。拥有一个纯粹由人类撰写的语料库来[训练] AI 系统可能很有价值。维基百科仍然如此，并且在至少不久的将来仍将如此，这使它成为一种在其他任何地方都无法复制的宝贵资源。

但是，如果这能让维基百科更全面，阅读和贡献维基百科的人会希望它部分由 AI 生成吗？我们可以在保持维基百科作为人类撰写语料库身份的同时，也提供 AI 辅助的选项。

维基百科是否已经认真考虑过“谷歌零流量”这一概念——即未来网站可能不再从 Google 搜索获得流量？

Lebleu：如果一切都通过 AI 搜索进行，网站可见度降至零，我们如何展示维基百科，表明它可以被编辑，人们仍然可以贡献？维基百科经常被[谷歌]的 AI 概览引用，但用户可能只看到一个引用维基百科的 AI 答案。他们可能没有意识到维基百科是一个活生生的项目，他们可以编辑和贡献。

维基媒体基金会正在制定一个署名框架，该框架可以为 AI 用户提供更多关于[被引用]条目的信息：条目上次编辑的时间、内容的全面程度、编辑是否标记了问题，甚至可能包含行动号召。未来，读者甚至可能通过AI 模型参与贡献：“AI 引用了维基百科，但似乎存在错误。我可以提交编辑请求，并添加我找到的另一个来源吗？”

我认为未来维基百科与 AI 模型之间会形成非常强的共生关系。我不认为维基百科会消失，但我认为它会呈现出非常不同的形态。昨天，AI 还是需要清理的东西。今天，它是帮助我们进行清理的工具。明天，它将成为我们呼吸的空气。

本文的精简版以“Ellia Lebleu”为题发表于 2026 年 11 月印刷版。