跳到正文
热点事件持续更新

OpenAI 公布对抗蒸馏防御,推理提取成功率降至 0.2%

6 篇报道3 个报道来源6 小时前更新

先了解这件事

AI 综述

OpenAI 公布针对对抗蒸馏的检测与防御措施,称已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理内容的保护。OpenAI 称,在内部自动化红队测试中,从历史请求提取 GPT-6 Astra 受保护推理的平均攻击成功率为 54.0%,GPT-6.2 Astra 更新防护后降至 0.2%;针对当前请求的提取成功率从 22.9% 降至 0.9%。 OpenAI 表示,正将部分防护改进同样应用于 GPT-6 Astra,并阻止防护较弱的旧模型系列读取 GPT-6.2 Astra 和 Sol 受保护的推理内容。有报道称,OpenAI 通过防套取训练、全流程内容监测拦截和接口绑定技术实现上述防护,并联合其他 AI 公司封禁违规账号;OpenAI 称计划稍后披露其近期破坏的相关行动。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. RadarAI
    OpenAI 发布对抗性蒸馏防护,GPT-6.2 内部推理提取成功率从 54% 降至 0.2%

    OpenAI 发布《Combatting adversarial distillation》白皮书,公布针对未经授权模型能力提取的对抗性蒸馏防护措施。测试显示,GPT-6.2 模型的内部推理提取成功率从 54% 降至 0.2%,该防护重点保护模型不向用户公开的推理过程。

  2. RadarAI
    OpenAI 升级 GPT-6.2 Astra 和 Sol 防护,反蒸馏攻击成功率从 54% 降至 0.2%

    OpenAI 升级 GPT-6.2 Astra 和 Sol 的防护系统,通过防套取训练、全流程内容监测拦截和接口绑定技术,将外部套取模型思考步骤的攻击成功率从 54% 降至 0.2%。OpenAI 还联合其他 AI 公司封禁违规账号,显著提高了蒸馏成本。

  3. RadarAI
    OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

    OpenAI 发布公告介绍针对对抗性蒸馏的防御措施,加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链的保护。内部自适应黑盒红队测试显示,针对此前请求推理内容的提取成功率从 GPT-6 Astra 原有机制下的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求则从 22.9% 降至 0.9%,测试汇总了 6 个攻击模型的数据。

  4. The Decoder
    OpenAI 收紧 GPT-6.2 Astra 与 Sol 的推理内容防提取措施

    OpenAI 大幅收紧对 GPT-6.2 Astra 和 GPT-6.2 Sol 内部推理内容的防提取保护。内部自动化测试中,从历史请求提取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击成功率从 22.9% 降至 0.9%。

  5. RadarAI
    OpenAI 强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的推理抽取防护

    OpenAI 大幅收紧了 GPT-6.2 Astra 与 GPT-6.2 Sol 防止内部推理被抽取的防护。内部自动化测试中,从历史请求中抽取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击从 22.9% 降至 0.9%。

11月20日
  1. OpenAI News精选
    OpenAI 披露对抗蒸馏防御方法:GPT-6.2 Astra 推理轨迹提取攻击成功率降至 0.2%

    OpenAI 分享其检测和阻断对抗蒸馏的做法,将对抗测试、模型训练、分类器和 API 层防护与对协同提取行为的调查结合起来。在内部自适应红队评估中,针对 GPT-6 Astra 原始防护的推理轨迹提取平均攻击成功率为 54.0%,在 GPT-6.2 Astra 更新防护后降至 0.2%,针对当前请求的提取成功率从 22.9% 降至 0.9%。

本事件热度走势

可比范围当前
18
可比范围峰值
2711月21日 05:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。