面向AI生成文本的鲁棒细粒度检测模型与2.4M多语言数据集
Robust and Fine-Grained Detection of AI Generated Texts
研究团队提出一组面向token分类的检测模型，专门针对人类与LLM共同撰写的文本训练，在未见领域、未见生成器、非母语者文本及对抗输入上均表现良好。团队同时发布了一个超过2.4M条、覆盖23种语言、主要由多个主流闭源LLM参与撰写的文本数据集，并给出模型在各领域与各生成器上的性能对比，以及不同对抗方法、输入长度对检测效果的影响分析。
作者：Ram Mohan Rao Kadiyala、Siddartha Pullakhandam、Kanwal Mehreen、Drishti Sharma、Siddhant Gupta、Jebish Purbey、Ashay Srivastava、Subhasya TippaReddy、Arvind Reddy Bobbili、Suraj Telugara Chandrashekhar、Ankan Ghosh、Modabbir Adeeb、Srinadh Vura、Suman Debnath、Hamza Farooq
摘要：理想的机器生成内容检测系统应当能适用于任何生成器，因为每天都有更多先进的 LLM 出现。现有系统往往难以准确识别较短文本中的 AI 生成内容。此外，并非所有文本都完全由人类或 LLM 撰写，因此我们更关注部分情况，即人类与 LLM 共同撰写的文本。我们的论文提出了一组为 token 分类任务构建的模型，这些模型在大量人机共同撰写的文本上训练，在未见领域文本、未见生成器、非母语者文本以及对抗性输入文本上表现良好。我们还引入了一个包含超过 240 万条此类文本的新数据集，这些文本大多由多个流行的专有 LLM 以 23 种语言共同撰写。我们还展示了我们的模型在每个领域和每个生成器的每类文本上的性能发现。其他发现包括：针对每种对抗方法的性能比较、输入文本长度，以及生成文本与原始人类撰写文本相比的特征。
| 评论： | 18 页，6 幅图 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2504.11952 [cs.CL] |
| （或 arXiv:2504.11952v4 [cs.CL] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2504.11952 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Ram Mohan Rao Kadiyala [查看邮箱]
[v1]
2025 年 4 月 16 日星期三 10:29:30 UTC（7,712 KB）
[v2]
2025 年 5 月 22 日星期四 10:09:18 UTC（8,739 KB）
[v3]
2025 年 7 月 31 日星期四 09:14:25 UTC（7,480 KB）
[v4]
2026 年 10 月 24 日星期六 01:05:00 UTC（7,473 KB）
来源：arXiv cs.CL · arxiv.org