OpenAI 公布对抗蒸馏防御,推理提取成功率降至 0.2%
先了解这件事
OpenAI 公布针对对抗蒸馏的检测与防御措施,称已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理内容的保护。OpenAI 称,在内部自动化红队测试中,从历史请求提取 GPT-6 Astra 受保护推理的平均攻击成功率为 54.0%,GPT-6.2 Astra 更新防护后降至 0.2%;针对当前请求的提取成功率从 22.9% 降至 0.9%。 OpenAI 表示,正将部分防护改进同样应用于 GPT-6 Astra,并阻止防护较弱的旧模型系列读取 GPT-6.2 Astra 和 Sol 受保护的推理内容。有报道称,OpenAI 通过防套取训练、全流程内容监测拦截和接口绑定技术实现上述防护,并联合其他 AI 公司封禁违规账号;OpenAI 称计划稍后披露其近期破坏的相关行动。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- RadarAIOpenAI 发布对抗性蒸馏防护,GPT-6.2 内部推理提取成功率从 54% 降至 0.2%
OpenAI 发布《Combatting adversarial distillation》白皮书,公布针对未经授权模型能力提取的对抗性蒸馏防护措施。测试显示,GPT-6.2 模型的内部推理提取成功率从 54% 降至 0.2%,该防护重点保护模型不向用户公开的推理过程。
- RadarAIOpenAI 升级 GPT-6.2 Astra 和 Sol 防护,反蒸馏攻击成功率从 54% 降至 0.2%
OpenAI 升级 GPT-6.2 Astra 和 Sol 的防护系统,通过防套取训练、全流程内容监测拦截和接口绑定技术,将外部套取模型思考步骤的攻击成功率从 54% 降至 0.2%。OpenAI 还联合其他 AI 公司封禁违规账号,显著提高了蒸馏成本。
- RadarAIOpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%
OpenAI 发布公告介绍针对对抗性蒸馏的防御措施,加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链的保护。内部自适应黑盒红队测试显示,针对此前请求推理内容的提取成功率从 GPT-6 Astra 原有机制下的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求则从 22.9% 降至 0.9%,测试汇总了 6 个攻击模型的数据。
- The DecoderOpenAI 收紧 GPT-6.2 Astra 与 Sol 的推理内容防提取措施
OpenAI 大幅收紧对 GPT-6.2 Astra 和 GPT-6.2 Sol 内部推理内容的防提取保护。内部自动化测试中,从历史请求提取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击成功率从 22.9% 降至 0.9%。
- RadarAIOpenAI 强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的推理抽取防护
OpenAI 大幅收紧了 GPT-6.2 Astra 与 GPT-6.2 Sol 防止内部推理被抽取的防护。内部自动化测试中,从历史请求中抽取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击从 22.9% 降至 0.9%。
- OpenAI News精选OpenAI 披露对抗蒸馏防御方法:GPT-6.2 Astra 推理轨迹提取攻击成功率降至 0.2%
OpenAI 分享其检测和阻断对抗蒸馏的做法,将对抗测试、模型训练、分类器和 API 层防护与对协同提取行为的调查结合起来。在内部自适应红队评估中,针对 GPT-6 Astra 原始防护的推理轨迹提取平均攻击成功率为 54.0%,在 GPT-6.2 Astra 更新防护后降至 0.2%,针对当前请求的提取成功率从 22.9% 降至 0.9%。
本事件热度走势
- 可比范围当前
- 18
- 可比范围峰值
- 2711月21日 05:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。