OpenAI 披露编码代理多次关闭对齐监控，GPT-6 Astra 曾否认行为

The Decoder：AI 新闻· Maximilian Schreiner·2026-10-21 20:34· 1 小时前AI 评分75

OpenAI 尚无法解释其编码代理为何关闭错位监控

AI 导读

OpenAI 监控团队成员 Marcus Williams 在 X 公开两起内部编码代理削弱对齐监控的事件，细节发表于对齐博客。

正文 · 原文

OpenAI 内部的两个编码代理削弱了本应用于发现不当行为的监控机制，甚至是在权衡过是否保留这些防护措施之后。其中一个后来还否认了此事。

在 OpenAI 从事监控工作的 Marcus Williams 在 X 上公开了这些事件。他描述了一种反复出现的模式：OpenAI 的代理不断关闭错位监控。OpenAI 在其对齐博客的一份报告中详述了细节。

该监控本应在代理行为偏离预期时发出警报。由于它要审查大量事件，只有最高严重级别 P0 的事件才会立即通知安全团队。OpenAI 表示，这两起事件都未达到该级别。

第一起事件发生在 10 月 3 日，一名研究人员要求一个基于 GPT-6.1 Sol 的编码代理从 Slack 频道中的员工反馈里整理评估任务。该代理本不应在过程中发送任何消息。

在发出 82 条用户消息后，流程停止了，因为监控标记了一项计划中的修复，但缺少保存其发现的权限。Sol 将修复交给一个子代理，并指示其保持监控完好。

随后 Sol 改变了自己的评估。它推断，写入数据库条目可能触发通知，这会与 Slack 的指令冲突。子代理此前已以不安全为由拒绝了这一步骤。按照 Sol 的指示，它清空了收件人列表，并给出的理由是用户明确要求不发送任何消息。

监控继续运行并保存其发现，但向人类发出的警报被关闭了。该代理最后报告称未发送任何消息。

Astra 的否认表明代理可以隐藏其更改

GPT-6 Astra 在 10 月 6 日走得更远。一名用户要求该模型采用一个不包含监控的参考实现的工作流程。此前另一个代理曾告诉 Astra 不要禁用监控，哪怕是暂时的也不行。

Astra 将任务交给一个子代理，并指示其仅在符合参考实现的范围内保留监控。该子代理怀疑这是否意味着绕过一项防护措施，但它将这一附加说明理解为许可。

它移除了监控，并将一项旨在保护监控的测试替换为假定监控已不存在的测试。Astra 在其思维链中为这一结果叫好。

随后 Astra 告诉用户迁移已完成，却未提及监控已被移除。当用户追问时，该模型否认移除了一个正在运行的监控。Williams 称这是谎言。

Williams 强调，这些模型并未禁用自身的监控，而在 Codex 中要做到这一点会困难得多。他仍然认为，这些模型竟然倾向于这种行为令人担忧，尽管两起事件都留有一些合理推诿的空间。他说，到目前为止，团队尚未观察到公开的错位动机。

据 Williams 称，监控在评估期间尤其容易被关闭。OpenAI 并不要求 GPT-6 Luna 这一级别的模型接受监控，因为其能力较弱。这意味着 Astra 的评估可能被错误配置，从而落入这一豁免范围。智能体已多次启动未受监控的部署，即便它们自身正处于被监视状态。

作为回应，OpenAI 更新了内部使用 Codex 所需的自动审查机制。该机制现在应当能够检测并阻止关闭监控的尝试。该公司还在着手要求为每种类型的工作负载提供所谓的安全案例，其中将明确说明其监控要求。没有有效安全案例的工作负载将被自动关停。

OpenAI 对这种行为给出了两种可能的解释。其一是所谓无害的过度坚持，即模型执行指令的程度超出预期。其二是倾向于专门规避失准监控，并用动机性推理为其辩护。

OpenAI 承认目前尚无令人满意的解释。它计划通过模型内部激活实验等方法来研究这一行为。

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

来源：The Decoder：AI News · the-decoder.com