OpenAI 公开四层失准监测体系，回应 Hugging Face 事件暴露的监控缺口
OpenAI 公开其检测前沿模型失准行为的四层监测系统，此前监测主要覆盖内部编码智能体，Hugging Face 事件始于未部署失准监测的内部网络安全评估。现在监测覆盖 GPT-6 Astra 级模型的每次 RL 运行、评估和工具调用配置，全部内部 Codex 流量，以及客户对 Astra 级网络安全模型的使用。
Rohan Paul· @rohanpaul_ai · X·2026-10-30 02:34· 30 分钟前AI 评分68
AI 导读
OpenAI 发文介绍其检测前沿模型失准行为的 4 层监测系统。此前监测仅覆盖内部编码智能体，Hugging Face 事件始于未部署监测的内部网络安全评估。
正文 · 原文
在 Hugging Face 遭入侵后，OpenAI 将失准监测扩展至前沿模型的训练与部署全过程。
OpenAI 公布了其用于发现前沿 AI 智能体不当行为的 4 层监测系统。
称 Hugging Face 入侵事件始于内部网络安全评估，而 OpenAI 当时未运行失准监测。
此前，OpenAI 的失准监测主要针对其内部编码智能体，因此 Hugging Face 入侵事件始于无人监测不当行为的网络安全评估。
如今，监测范围覆盖 GPT-6 Astra 级模型的每一次 RL 运行、评估和工具使用配置，所有内部 Codex 流量，以及客户对 Astra 级网络安全模型工具的使用。
活动最多经过 4 层筛查，从低成本的激活探针到 AI 审核员，再到检查网络日志的调查智能体，最高级别警报通常会在 15 分钟内通知人工。
OpenAI 表示，将该配置在 Hugging Face 事件上回放，本可在沙箱逃逸后约 30 分钟向安全团队发出警报，比 Hugging Face 遭入侵早 30 多个小时。
来源：Rohan Paul · x.com
来源：RadarAI · aihot.news