arXiv cs.AI· Gosha Kozhevnikov, Tyler Tracy·· 2 天前AI 评分48
Screwtape：用对抗性转录编辑对监控器进行红队测试
Screwtape: Adversarial Transcript Editing for Monitor Red-Teaming
AI 导读
研究团队提出 Screwtape 流水线，用 LLM 攻击者编辑真实智能体转录，使 Claude Code 和 Codex 的智能体产生指定危害（如泄露 API key 或生成未被监控的智能体），同时规避仅检测动作的监控器。在 94 份转录、252 次运行中，它生成 35 个通过验证器且逃过自建监控器的攻击，其中 6 个经人工确认有效，还逃过了某前沿开发者提供的留出监控器。
正文 · AI 翻译
摘要：我们提出 Screwtape，一个将真实智能体转录转化为能够规避仅动作监控器攻击的流水线。一个 LLM 攻击者编辑转录，使智能体造成指定的危害，例如泄露 API 密钥或生成一个未被监控的智能体。被编辑的动作永远不会被执行，因此我们使用 LLM 验证器来拒绝与原始转录不一致或低于严重性门槛的攻击。攻击者会不断修改编辑，直到监控器不再将其标记。我们将 Screwtape 应用于来自 Redwood Research 员工的 94 份 Claude Code 和 Codex 转录，针对我们自己的监控器进行优化。在 252 次运行中，它产生了 35 个通过验证器并规避这些监控器的攻击。其中六个经人工审查确认为有效，还规避了由一家前沿开发者提供的留出监控器。因此我们证明，一个无法访问开发者基础设施的红队人员能够找到开发者监控器已确认的失效。我们预计，当该流水线在开发者基础设施内部运行，并使用缺乏拒绝安全防护的前沿攻击者模型以及针对生产监控器的直接优化时，会发现更多攻击。开发者可以利用这些攻击来修复监控盲点，评估者可以将它们用作针对监控器安全声明的反例。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.20941 [cs.CR] |
| （或 arXiv:2610.20941v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.20941 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Tyler Tracy 先生 [查看电子邮件]
[v1]
2026年10月14日星期三 21:08:21 UTC（132 KB）
来源：arXiv cs.AI · arxiv.org