arXiv cs.AI· Shubhrangshu Debsarkar, Valmik Nahata·· 10 小时前AI 评分49
研究发现简单特征即可击败多数 AI 控制监控器
Simple Features Beat Most AI Control Monitors
AI 导读
在标准评估数据集上，简单特征无需运行代码即可击败 24 个开源权重监控模型中的 20 个。该数据集通过代码风格和问题特征泄露标签，将人类代码与 Claude Sonnet 5 生成的后门代码对比时，区分度从 0.79 升至 0.95。标准测试集中七分之一的后门未通过有效性检查，Sonnet 5 监控器对旧模型后门检出率为 77%，对自身后门仅 37%。
正文 · AI 翻译
摘要：AI 控制依赖监控器来发现有能力破坏自身工作的模型。这些监控器通过区分诚实代码与后门代码的能力来评估。我们表明，在一个标准评估数据集上，简单特征无需运行代码就能胜过大多数监控器，排名超过 24 个被提示为监控器的开放权重模型中的 20 个。该数据集以两种方式泄露了其标签。诚实解决方案由人编写，而后门由较旧的语言模型编写，因此代码风格揭示了类别。此外，LLM 能够植入后门的问题具有不同特征，因此关于问题的基本事实也能揭示它。一次将一类替换为 Claude Sonnet 5 编写的代码表明，这些特征奖励的是作者之间的对比，因为人类代码与 Sonnet 5 的后门比原始配对更容易区分，0.95 对 0.79。标准测试集中七分之一的后门未通过我们的有效性检查，这扭曲了攻击者之间的比较。一个 Sonnet 5 监控器似乎能捕获较旧模型 77% 的后门，但只能捕获 Sonnet 5 的 37%；在两者都经过验证后，分别为 78% 对 61%。我们并未证明已发表的监控器依赖这些捷径，但我们的发现表明，在此类数据集上获得高分本身并不能作为破坏检测的证据。我们发布了重建的数据集和检查。
| 评论： | 19 页（5 页正文加附录），7 幅图，10 张表。已被 NeurIPS 2026 的 EvoRobust 研讨会接收。代码和数据：此 https URL |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.41713 [cs.CR] |
| （或 arXiv:2610.41713v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41713 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Shubhrangshu Debsarkar [查看电子邮件]
[v1]
2026 年 10 月 30 日星期五 13:21:03 UTC（536 KB）
来源：arXiv cs.AI · arxiv.org