arXiv cs.CL· Liam Dugan, Callum McDougall, Matthew Denton, Philip Pham, Christine Kaeser-Chen, Chris Callison-Burch·· 12 小时前AI 评分42
用稀疏自编码器构建可审计的 AI 文本检测器
Building Auditable AI Text Detectors with Sparse Autoencoders
AI 导读
研究者提出一条流水线，将微调后的神经 AI 文本检测器转换为基于人类可读概念的分类器：直接在检测器残差流上训练稀疏自编码器（SAE），为每个 SAE 特征分配自动解释标签，仅保留描述通过全局保真度阈值的特征，再在其上训练轻量分类器。
正文 · AI 翻译
摘要：AI 生成文本检测器正越来越多地部署在具有重大影响的场景中——同行评审、教育、招生、新闻和内容审核——在这些场景中，它们的输出会直接影响个人。然而，最强的检测器是微调后的神经分类器，其决策不透明，而透明的替代方案（文体计量和语言特征分类器）在性能上大幅落后于它们。我们提出了一条流水线，可将微调后的神经检测器转换为基于人类可读概念运行的分类器。我们通过直接在检测器的残差流上训练稀疏自编码器（SAE）、为每个 SAE 特征分配自动解释标签，并仅保留其生成描述通过全局保真度阈值的特征来实现这一点。然后，我们仅在这些可解释特征上训练一个轻量级分类器。我们发现，我们的 SAE 能够恢复出与 AI 生成文本高度具体且具有预测性的语言“破绽”相对应的潜在概念。基于这些提取特征构建的分类器不仅高度可解释，而且在分布外文本上的表现优于神经或文体计量替代方案。
| 评论： | EMNLP 2026 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| ACM 分类： | I.2.7 |
| 引用为： | arXiv:2610.30006 [cs.CL] |
| （或 arXiv:2610.30006v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.30006 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Liam Dugan [查看电子邮件]
[v1]
2026 年 10 月 21 日星期三 16:41:14 UTC（1,556 KB）
来源：arXiv cs.CL · arxiv.org