跳到正文
RadarAI· The Decoder:AI News(RSS)·· 22 小时前AI 评分58

OpenAI 强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的推理抽取防护

OpenAI 大幅强化 GPT-6.2 Astra 与 GPT-6.2 Sol 的推理抽取防护

AI 导读

OpenAI 大幅收紧了 GPT-6.2 Astra 与 GPT-6.2 Sol 防止内部推理被抽取的防护。内部自动化测试中,从历史请求中抽取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击从 22.9% 降至 0.9%。

正文 · AI 翻译

The Decoder:AI 新闻· Matthias Bastian·2026-11-21 04:31· 2 小时前AI 评分53

OpenAI 让攻击者更难提取其最新 AI 模型的思考方式

AI 导读

OpenAI 大幅收紧了 GPT-6.2 Astra 与 GPT-6.2 Sol 防止内部推理被抽取的防护。

正文 · 原文

OpenAI 已大幅收紧防护措施,防止从 GPT-6.2 Astra 和 GPT-6.2 Sol 中提取内部推理。在内部自动化测试中,从先前请求中提取受保护推理的攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%。OpenAI 表示,针对活跃请求的攻击成功率从 22.9% 降至 0.9%。该公司目前也将部分改进措施引入 GPT-6 Astra。

这些防御在两个层面发挥作用。针对单个请求,系统结合了定向训练、对消息和工具调用的输入输出过滤,以及阻止旧模型读取受保护推理的 API 拦截。针对协同攻击行动,OpenAI 每周封禁数千至数万个账户。

攻击类型 采用原始防护的 GPT-6 Astra——自适应提取 ASR(%) 采用更新防护的 GPT-6.2 Astra——自适应提取 ASR(%)
从先前请求中提取受保护推理 54.0 0.2
从当前请求中提取受保护推理 22.9 0.9

针对 GPT-6 Astra 和 GPT-6.2 Astra 的自适应黑盒红队测试中的攻击成功率(ASR),汇总自六个攻击者模型。越低越好。

Anthropic 也在打击系统性蒸馏攻击,同样封禁数万个账户以遏制内部推理被盗,据报道在 90% 至 99% 的案件中取得成功。Anthropic 还呼吁行业和政策制定者协同应对。

来源:The Decoder:AI 新闻 · the-decoder.com

来源:RadarAI · aihot.news