MIT 与 Cornell 研究:用测试时自适应让 AI 文本检测器跟上变化
Helping AI text detectors keep up with changing conditions
MIT 与 Cornell 大学研究者用测试时自适应(TTA)训练 AI 文本检测器,在实验中把伪装 AI 文本的识别率从商业检测器的约 27% 提升到 93%。在模拟人类写作习惯自然变化的测试中,TTA 检测器准确率为 85%,传统方法为 73%。该方法可让已部署模型利用未标注新数据在线调整,无需从头重训,适用于教育、出版、招聘和网络安全等场景。
如果一位老师怀疑学生的学期论文可能是由大型语言模型(LLM)撰写的,可以使用检测人工智能生成文本的工具来帮助证实自己的怀疑。但这位老师或许应该三思,不要完全信任检测工具。
来自MIT和康奈尔大学的研究人员表明,这类检测工具本身也是AI模型,却可以被伪装成人类撰写的AI生成文本所欺骗。检测器还可能因为写作习惯随时间的自然变化或新LLM的出现而无法识别AI文本。
在一篇新论文中,研究人员展示了一种特殊的训练技术如何使AI检测器更准确、更能抵御欺骗,即使人类和AI的写作方式不断变化。
他们采用了一种名为测试时自适应的方法,使部署后的检测模型能够通过即时调整其内部机制,从新的未标注数据中学习。这样,模型无需从头重新训练就能适应未见过的输入。
在实验中,一个商用检测器只能识别出约27%经过伪装的AI生成文本,而新方法达到了93%的准确率。
这种方法可以帮助教育工作者、编辑、出版商和招聘经理标记出人们试图冒充为人类撰写的LLM生成文本。网络安全专家也可以用它来防止电子邮件钓鱼诈骗或识别搜索引擎优化欺诈。
“在许多高风险场景中,人们确实非常关心作者的身份,从科学出版到短篇小说比赛都是如此。我们已经证明,测试时自适应能让你的AI检测器更加稳健,即使AI用户持续采取对抗行为也是如此,”研究合著者Manish Raghavan说。他是MIT斯隆管理学院Drew Houston(2005)职业发展教授,同时在MIT施瓦茨曼计算学院电气工程与计算机科学系(EECS)担任共享职位,并且是信息与决策系统实验室(LIDS)的首席研究员。
与他共同撰写论文的还有第一作者、康奈尔科技学院研究生Kevin Ren,以及资深作者、康奈尔科技学院助理教授Nikhil Garg。这项研究将在神经信息处理系统会议上展示。
欺骗检测器
能够生成类人文本的LLM大量涌现,催生了众多商业AI检测工具,帮助人们判断某篇文字是否由人类撰写。
但当这些检测工具评估的文本与其被训练识别的文本存在显著差异时,它们就可能失效。这被称为分布偏移。
检测器开发者通常通过从互联网收集他们确知为AI或人类生成的文本,来训练模型区分两者。
然而,一旦检测器发布,人们可能会改变写作方式或使用AI生成文本的方式。
例如,2030年的人可能会使用2010年写作者不常用的新类比来讨论不同的话题。用2010年数据训练的检测器可能不熟悉这种新的写作风格,从而错误地将人类撰写的文本标记为AI生成。
检测模型的发布也会在其开发者和想要绕过它的用户之间引发一场猫鼠游戏。这些人可以将 AI 生成的文本通过自动化的“humanizer”软件工具处理,使其经过修改后在检测器看来像是人类所写。
“公司发布模型后,会冒出一堆‘humanizer’试图击败它,于是公司尝试把这些经过 humanizer 处理的文本纳入训练,让检测器能够识别出来,如此循环往复。就像反复冲洗一样。这个循环可以永远持续下去,”Ren 说。
研究人员探讨了测试时自适应(TTA)能否让 AI 检测器在面临这些分布偏移时保持稳健。
自适应在实践中
在 TTA 中,研究人员不会冻结模型使其在部署期间无法改变,而是允许模型在发布后自行适应传入的数据。对于 AI 文本检测器而言,这些数据就是用户上传的新文本片段。
这些数据没有标注,因此检测器开发者并不知道哪些数据由人类撰写、哪些由 AI 模型生成。但这些新数据代表了当代人类和 AI 的写作——正是开发者希望模型能够预测的内容。
有了足够多的示例,检测器就能学会识别模式,从而判断哪些数据是 AI 生成的、哪些是人类生成的。
研究人员通过创建包含一定数量 AI 生成文本和人类生成文本的数据集来研究 TTA,但他们不向模型提供这些标签。他们还使用 LLM 生成了一些类似 AI 所写文本的示例,专门用于规避检测器。
然后他们执行 TTA 训练过程,并在真实标注数据上测试模型。
在旨在模拟人类语言随时间自然变化的实验中,使用 TTA 的检测器准确率达到 85%,而传统方法仅达到 73%。
而在针对旨在阻挠检测工具的写作时,现有方法只能识别出约 27%,而 TTA 使模型能够捕获超过 93% 的伪装文本。
“TTA 有潜力真正帮助已部署的 AI 检测模型,使其能够主动应对对抗性 AI 用户的这种迭代‘博弈’行为,”Ren 说。
他补充说,适应人类写作行为的变化是一个更困难的 TTA 问题,因为这些变化更缓慢,且以更微妙的方式发生。
研究人员提醒,随着未来 LLM 生成越来越自然的语言,且越来越难以找到可验证的人类文本用于训练,TTA 可能并不总是有效的解决方案。
“目前还不完全清楚这是否会是一个可解决的问题,”Raghavan 说。“在一个无法区分人类生成内容和 AI 内容的世界里,如何看待科学、写作和艺术,存在一些重大的开放性问题。”
未来,研究人员希望探索 TTA 可能有用的类似战略领域,并构建更好的基准测试工具,帮助工程师以动态方式改进这些 AI 检测模型。
该项目使用了 Pangram 提供的 API 额度来使用其 AI 文本检测器。
来源:MIT News · AI · news.mit.edu