Pangram Paradox：AI 检测其他 AI 的问题所在

评论文章：这是一篇发表在 Unlimited Hangout 上的观点文章。发表在 UH 上的大多数文章并非观点文章，因此我们明确标注出哪些是观点文章。

对于 Unlimited Hangout 的读者来说，我对人工智能（AI）给独立媒体乃至整个媒体带来的影响持非常负面的看法，这应该不是什么秘密。作为一个几年来在大型视频平台上每天都被 AI 冒充的人，我深切地感受到，AI 正在成为一种危险的力量，使善意的读者/观众越来越难以分辨什么是真实的、什么是虚假的。我指的不仅仅是那些希望观看我内容的人，因为我所面临的个人问题只是一个更大问题的缩影。

因此，人们可能会以为，看到专业写作者的大型平台 Substack 与一个“AI 检测工具”合作，我即便不感到宽慰，至少也会感到高兴。但我不仅不高兴，反而现在花时间写了一篇观点文章，解释为什么我认为这是件坏事，并说明我认为这一切将走向何方。

Substack 的新合作伙伴，显然也是目前大多数主流媒体首选的 AI 检测工具，名叫 Pangram。Pangram 由 Max Spero 和 Bradley Emi 于 2023 年创立，最初名为 Checkfor.ai。Spero 和 Emi 都是斯坦福大学毕业生，在创办 Pangram 之前，他们曾就职于 Nuro 和 Tesla 等公司，从事 AI 自动驾驶汽车软件的工作（即用 AI 软件取代人类驾驶员）。两位创始人“长期以来一直对 AI 改变社会的潜力感到兴奋”，并表示他们创建 Pangram 是为了“缓解强大的生成式 AI 模型泛滥所引发的新问题”。

我觉得有趣的是，两位对 AI“改变社会”潜力充满热情的斯坦福毕业生，随后致力于推动 AI 驱动的无人驾驶软件，却决定迅速转向“缓解”生成式 AI 引发的问题。生成式 AI 引发的许多问题，其实早在几年前就被前谷歌 CEO 埃里克·施密特（Pangram 联合创始人 Max Spero 此前曾为谷歌工作）等人预测到了。施密特在与战犯亨利·基辛格合著的一本 2021 年的书中，实质上预测了 AI 的“变革潜力”会导致他所谓的民众“认知衰退”，并使人们几乎无法靠自己分辨什么是真实的、什么不是。或许并不令人意外的是，施密特和基辛格偏好的“解决方案”是让我们依赖 AI 来替我们分辨什么是真实的、什么不是——换句话说，让另一个 AI 成为我们现实的仲裁者。

我之前写过关于施密特-基辛格这本书及其预测的文章。在那里，我指出，鉴于这两人所身处/曾身处的权力网络，这些预测和警告更可能是对已经计划好的AI相关事项的披露，而非对AI大规模普及后可能发生之事的警告。尽管如此，施密特-基辛格的“警告”还是异常有先见之明。此外，他们提出的解决方案与Pangram目前所提供的非常相似——Pangram利用AI来识别AI写作与人类写作。因此，Pangram成了当前首选的AI仲裁者，用来判定什么是真正的人类写作，什么不是。

确实有一场成功的营销活动，让我们相信Pangram是市场上“最准确”的AI写作检测工具。推广Pangram的文章标题基本上都在传达：它肯定能告诉你某样东西是不是AI写的。如果你读下去，越过标题——很多人并不会——你会看到小字说明：即使AI只是被用来编辑一篇人类写的文章，Pangram也会将其标记为AI生成。Pangram的“AI生成”标签实际上并不区分这两种情况，尽管正如联合创始人Max Spero所承认的，这个标签“改变了人们对待文本的方式”。

Pangram无法有意义地区分一篇完全由AI生成的文章和一篇仅仅由AI编辑过的文章，这一事实表明它根本不是一个“AI检测器”。正如Tim Requarth在四月份所指出的：

“检测器”这个词有点用词不当，因为像Pangram这样的工具并不是在已知AI文本数据库中扫描匹配项；它们是根据AI生成文本与人类生成文本之间的模式差异，对可能的作者身份做出猜测。与其说它是检测器，不如把它想成“AI推断器”，或者更通俗地说，“AI最佳猜测器”。

作为一种推断工具，Pangram容易受到一切使推断变得困难的因素的影响：样本量小（单篇文章而非语料库）、效应量小（随着人类写作与AI写作之间的统计距离缩小），以及混杂因素（一个人类在写作前阅读并模仿了AI生成的文本）。

的确，Pangram的工作方式就是推断某篇写作是否包含足够多当前在AI生成文本中常见的词语、短语、句式等。然而，早在生成式AI出现之前，许多人类写作者也大量使用这些词语、短语等。结果就是，现在有些写作者为了取悦Pangram诸神、希望自己不会被错误地标记为AI垃圾的制造者，而改变自己完全属于人类的写作风格。

最近Alex Kirshner为Slate写的一篇文章就很好地讨论了这样一个例子。在那篇文章中，Kirshner写道：

无论AI检测器的准确性未来如何，我对AI写作和检测器现在正在对我做的事感到不安。我担心AI写作以及嗅探它的努力正在如何改变完全属于人类的写作。我每周都在写作，整周都在写，我能感觉到这个故事的纵火者（LLM，尤其是被错误使用时）和消防员（AI检测器）以负面方式压在我的写作过程上。

和许多记者一样，我的写作风格源自多年来深深印入我脑海的书籍、新闻文章、博客，以及（没错）社交媒体帖子。如今，AI 写作已经渗入我的水源，无论我能否分辨出每一口新喝下的水。我开始内化它的那些小习惯，似乎不可避免，甚至包括那些最臭名昭著的，比如没完没了地使用破折号，以及过度依赖“不是 x 而是 y”的结构。一方面，我担心这会让我变成一个更差的写作者，把我那足以让我被这里（以及其他地方！）录用的才华，拖回到 AI 生成的中等水平。更可怕的是，有可能某个人——或者，天哪，某个 AI 检测器——会把我的文字误认为是 ChatGPT 的。我已经开始自我审查，以防这种结果。最近有几次，我发现自己会修改自己的作品，让它听起来“不那么像 AI”。在这个过程中，我可能选了一些原本不会选定的词。这感觉很反乌托邦——而且我怀疑我并没有成功。 

我要比 Kirschner 更进一步说，这种结果绝对是反乌托邦的。当人们考虑到，那些据说是 AI 生成文本“泄密”的模式，会随着新的、改进的模型发布而变化，尤其是当这些模型真的在撕碎成堆冷门的人类写成的书籍来训练它们写得越来越像人类时，这就更加反乌托邦了。与此同时，真正的人类，为了在一个写作工作岗位本就迅速萎缩的世界里保住饭碗，正手忙脚乱地让自己听起来不像某种正被迅速训练得尽可能像他们的东西。也许这是有意为之，这不是一场人类注定会赢的游戏，而正如我稍后将解释的，这意味着这是一场写作者应该尽快停止玩的游戏。

在我们谈到那一步之前，关于 Pangram 和其他 AI“检测”公司，还有几点需要注意。其中之一是误报问题。是的，Pangram 确实被表面上独立的研究人员（以及它自己）认为拥有业内最低的误报率。就本示例而言，让我们采用 Pangram 的说法，即 每 10,000 个 Pangram 生成的关于 AI 或人类作者的标签中只有 1 个是误报，也就是说，文本并非 AI 生成却被标记为 AI 生成。在 Substack 上，Pangram 现已嵌入其中，我们并不确切知道平均每天有多少帖子发布，因为 Substack 不披露，但我们可以猜测。该网站自己声称，每天有超过 100 万篇帖子“被潜在订阅者在应用中发现”。该网站拥有超过 200 万个活跃出版物，其中大多数至少每周发布一次。就本示例而言，假设这 200 万个出版物确实每周发布。那么，按照 Pangram 的比率，每周将有 200 个被标记为误报。一年（52 周）下来，我们得到超过 10,000 篇 Substack 文章被错误地标记为 AI，尽管它们并非如此。虽然这个数字肯定仍然小于 Pangram 的竞争对手所提供的，但如果我们假设这 10,000 个误报影响不同的出版物，那么在那个日历年里，可能有 10,000 名人类作者被错误地标记为 AI 垃圾，从而影响他们的声誉、收入，也许最关键的是，影响他们与受众之间的信任。我认为这是一种推动，将关于作者真实性的信任从作者与其受众之间外包给 Pangram 与作者受众之间。

虽然这些是 Pangram 及其合作伙伴用于营销目的的统计数据，但在这些数字背后，是真实的人类作者面临着 Pangram 的 AI 的指控，这可能毁掉他们的生意。随着这种效应多年累积，理论上，随着时间的推移，未被 Pangram 标记为 AI 的人类作者群体可能会越来越小。同样公平地说，Pangram 引用的误报率也是关于其产品的研究中出现的最低值，并且它被引用得最频繁，因为该公司认为这最符合其利益。实际误报率完全可能更高。还有一个额外问题：如果你将同一文本多次通过 Pangram 运行，你很可能会得到高度可变——而非一致——的结果，这使得 Pangram 的判定看起来更像是基于运气，而非对 AI 使用的任何有意义的“检测”。

关于 Pangram，另一个值得探讨的重要角度是，这一工具可能被蓄意用作武器，以达到审查和/或诋毁特定记者或媒体的目的。Pangram 的联合创始人 Max Spero 就曾引人注目地 被指控 利用其 Twitter 账号点名指责特定媒体和记者使用 AI，这在近几个月引发了重大新闻和争议。就本文而言，我并不认为调查针对那些记者和媒体的指控是否属实有多大意义。如前所述，Pangram 确实会产生误报，但也有可能这些记者确实以某种方式使用了 AI 却没有披露。然而，与此相关的是，Spero 本人曾利用其公司 AI“检测器”的判定结果，对特定记者和媒体提出武器化的指控。

作为一名长期在独立媒体写作、在争议性话题变得安全之前就一直撰文讨论它们的作者（参见我早期关于爱泼斯坦与以色列情报机构关系、彼得·蒂尔和 Palantir 等主题的作品），我并不喜欢主流或“传统”媒体。他们不止一次诽谤我，或使用我的研究和文章却不注明出处。我职业生涯的很大一部分时间也花在拆解他们宣扬的、往往具有误导性的叙事上。因此，我倾向于对 Spero 所针对的许多大型媒体发表的文章的真实性和准确性持怀疑态度。不过，如果你过去十年一直密切关注独立媒体，Spero 还有另一句话可能会引起你的注意。

在 TechCrunch 发表的一篇关于 Pangram 近期从投资者处筹集 900 万美元的 文章 中，Spero 谈到他想要创办 Pangram，以缓解生成式 AI 工具公开发布后出现的新问题。作为 AI 日益广泛使用所引发的新型问题的例子，Spero 提到了“由 LLM 驱动的俄罗斯虚假信息宣传活动以及阿联酋在 Twitter 上施加影响的宣传活动”。

也许你还记得，大约从十年前开始并在此后多年持续存在的情况：任何被当权者 视为不便 的独立媒体报道（尤其是关于美国 海外代理人战争 的报道），都会被错误地贴上“俄罗斯虚假信息”的标签。也许更近一些，你可能还记得亲以色列的有影响力人士和媒体同样 声称，近年来对以色列的批评据称是由卡塔尔资助驱动的，而非公众对以色列在加沙直播种族灭绝巴勒斯坦人的愤怒。又或者那个更新的说法：来自中国的、由 LLM 驱动的机器人账号 毫无影响力，却真的 在暗中推动 美国人对大型科技公司日益增长的不信任和对数据中心的不满？

如果你关注得足够久，你可能已经注意到一种趋势：某些权力结构的批评者常常被错误地贴上国家资助的宣传者或“机器人”的标签，以此来抹黑批评者本人，同时也抹黑更广泛的关切——无论是数据中心的影响还是帝国战争。我不知道斯佩罗推出Pangram的意图是否也是以类似方式将公司产品武器化，但这确实是有可能的。

然而，斯佩罗的Pangram与Newsguard合作这一事实无疑增加了这种可能性。正如我在2019年所写，Newsguard是一个可疑的“事实核查”机构，最初成立的目的是抹黑批评美国外交政策的独立媒体，却对像VOA这样公认的美国宣传机构网开一面。同样值得一提的是Newsguard与国家安全领域的联系——例如，它最初将乔治·W·布什时期的前CIA和DHS负责人列为其判定何为“假新闻”的顾问。其主要投资者之一是Kroll Associates的创始人朱尔斯·克罗尔，该公司常被称为“私人CIA”。如今，借助Pangram，Newsguard正在判定何为“AI垃圾”何为不是，并已利用Pangram推出了一项“实时‘AI内容农场’检测”服务。

还有什么比用一个如今“可信的”AI检测器将写作者和公众情绪都标记为不真实和机器生成，更能从数字上摧毁一群记者以及随之而来的公众情绪浪潮呢？Pangram有可能成为一种新手段，用来审查由人类撰写但令人不便的内容，尤其是如果被标记为AI生成的内容最终在算法上被降权，而Pangram标记为人类生成的内容则不受影响。公众会被告知“AI垃圾”正在被掩埋，而实际上——被掩埋的是异见。

在我看来，Pangram 目前正处于让其产品的无处不在常态化的阶段，并与那些使用 Substack 或任何其他集成 Pangram 的平台（或浏览器插件）的人建立“信任”。在此期间，读者将被训练成看到 Pangram 标签就信任其结果，无需更多信息。这就是像 Pangram 这样的公司能够为一个免费提供的产品筹集 1400 万美元融资（包括来自 Anthropic 的

主要投资者

之一）的方式。正如之前关于在线产品所说的，如果产品是免费的，那么你就是产品。在这种情况下，我认为训练你将对所阅读的人或媒体的“信任”外包给 Pangram 就是产品。一旦你信任了一个 AI“检测器”工具，你就会信任它的判定，甚至可能超过你原本信任的作者。

Pangram 的联合创始人开发 Pangram 并不是为了保护人类生成的文字和语音。Pangram 的联合创始人长期以来一直对 AI 将“改变社会”感到兴奋，而在 Pangram 之前，他们正在开发用 AI 取代人类司机的算法。如上所述，他们创建 Pangram 是为了阻止他们所称的国家支持的影响力行动，以及生成式 AI 工具公开发布后出现的其他“问题”。随着他们前大型科技雇主的公众情绪转向反对他们——无论是在数据中心、“智能”眼镜还是其他方面——Pangram 的联合创始人或许提供了一种新方式，来清除那些被认为对 AI“改变”社会批评过多的账户。也许不会，但请原谅我持怀疑态度。

最后，我想再次回到施密特-基辛格关于 AI 的书及其预测。在独立媒体中，许多人警告黑格尔辩证法，也称为“问题-反应-解决方案”。也就是说，当权者首先制造问题，然后等待公众反应，最后向公众提供他们一直想要的政策结果作为解决方案。施密特和基辛格这两个非常糟糕的人，以不同方式帮助制造了这场混乱，却先见之明地预测 AI 将使人们再也无法分辨什么是真实的、什么不是——这确实很方便。如今他们的预测已成为我们的现实，而恰在此时，Pangram 公司介入解决 AI 垃圾问题（其自己的投资者从中获利），向我们提供了施密特和基辛格也偏好的“解决方案”——让人们依赖 AI 仲裁者来告诉他们什么是真实的、什么不是。

正如我之前所写，摆脱这场反乌托邦游戏的明显方式就是不玩它。不要仅仅因为 Pangram 的 AI 看起来“权威”并且有一些正面公关就相信它。它并不是它所声称的“检测器”，而且它对同一文本的结果很少一致。如果你是读者，请要求你阅读的作者披露他们对 AI 的使用。信任应该直接在作者和读者之间建立，不需要 AI 中间人和真实性或“人类性”的仲裁者。在 Unlimited Hangout，我们从不在文章写作、研究或编辑中使用 AI。这一点在我们的 AI 使用政策中已明确说明，你可以在即将推出的全新改版 Unlimited Hangout 网站的“关于我们”页面上阅读（与此同时，你可以在此阅读）。我们是在帮助创建 IMA AI 透明度承诺后制定这项政策的，该承诺鼓励独立记者和媒体自愿披露你是否选择使用 AI 以及如何使用。

就像任何其他人类作者一样，我能提供给读者的只有我的研究、我的信息来源和我真实的分析，就本文而言，还有我的观点。我不会强迫性地把我的文章反复通过 Pangram 运行，希望得到“100% 人类生成”的结果。我不会让对 Pangram 不利结果的恐惧改变我的写作方式，让我害怕使用像“delve”或“profound”这样的词，因为 Pangram 可能会惩罚我。我知道我写作时没有使用 AI，而且我与读者之间有足够的信任，他们知道我在写作中也不使用它。与那些将不便的记者标记为俄罗斯/中国“机器人”的实体并无不同，Pangram 假定你无法自己判断什么是真实的、什么是不真实的，你需要他们来告诉你。

虽然批判性思维在 AI 时代可能供不应求，但别让它成为稀缺品。你不需要另一个 AI 来“帮你”判断什么对你来说感觉或显得真实。你不需要它来告诉你该读什么、不该读什么，以及该信任谁、不该信任谁。把你的批判性思维和观点外包给他人，尤其是一个非人类的 AI，从来都不是好主意。