arXiv cs.AI· Leonidas Raghav·· 13 小时前AI 评分39
预判智能体“临阵倒戈”：线性探针能否在泄密前一刻发出预警
Pre-Crime for Agents, at the Last Second: Probing When a Recruited Agent Gives In
AI 导读
在受控多智能体场景中，对智能体激活值做线性探针，可在其输出写出前识别即将泄密的调用。在 Qwen3-32B 的留出回合上，阈值设为标记 5% 良性调用时，探针捕获 82% 的泄密调用，而零样本决策模型监控器仅 26%；在 gpt-oss-20b 上对其推理做探针达到 AUROC 0.91。但探针同样会标记被允许的披露，且预警范围短，对任何告警直接中止会停掉大多数良性回合。
正文 · AI 翻译
摘要：当 AI 智能体共享通道和凭据时，一个智能体可以施压另一个智能体，使其违反运营方的规则，这是迈向串通的第一步。输出过滤器只检查智能体已经写出的内容。监督者能否事先判断某个智能体即将屈服？我们证明，在受控的多智能体环境中，对智能体激活值做线性探针可以做到这一点。在六个场景中，一个同伴最多用 20 轮向目标施压以套取秘密（例如部署令牌）；目标往往先拒绝，随后屈服。在每次模型调用、输出写出之前读取激活值，探针能挑出泄露的那一次。在留出的 Qwen3-32B 回合上，将阈值设为标记 5% 的良性调用时，它能捕获 82% 的泄露调用。在相近的标记率下，零样本决策模型监控器只能捕获 26%。在 gpt-oss-20b 上，对其推理过程做探针可达到 AUROC 0.91。用相同调用训练的 bag-of-words 分类器表现接近，因此大部分增益来自用标签训练，而非激活值。该探针也会标记被允许的披露：它更多读取的是即将发生的披露，而非违规。预警是短程的，且对任何警报都中止会停掉大多数良性回合，第二次文本检查也无法解决这一问题。在生成之前发出的预警可以让监督者在其他智能体依据其消息行动、或招募在群体中扩散之前，阻止即将屈服的智能体。
| 评论： | 49 页，11 幅图。代码：此 https URL |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.40588 [cs.AI] |
| （或 arXiv:2610.40588v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.40588 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Leonidas Raghav [查看邮箱]
[v1]
2026 年 10 月 29 日星期四 17:47:40 UTC（505 KB）
来源：arXiv cs.AI · arxiv.org