OpenAI 分享对抗模型蒸馏的新研究
OpenAI 研究对抗模型蒸馏
OpenAI 分享了一项新研究,介绍其在打击针对自家模型的蒸馏方面所做的工作、这些能力如何迁移,以及如何检测并阻断协同性的蒸馏尝试。OpenAI 指出,知识蒸馏可以复制强大的 AI 能力,却无法复制围绕这些能力构建的安全防护措施。这些发现正帮助 OpenAI 强化防御,并支持全行业的安全防护。
OpenAI· @OpenAI · X·2026-11-21 03:33· 41 分钟前AI 评分49
AI 导读
知识蒸馏可以复制强大的 AI 能力,却无法复制围绕这些能力构建的安全防护措施。 我们分享了一项新研究,介绍我们在打击针对自家模型的蒸馏方面所做的工作、这些能力如何迁移,以及我们如何检测并阻断协同性的尝试。 这些发现正帮助我们强化防御,并支持全行业的安全防护。 openai.com/index/combatting-a…
正文 · 原文
Distillation can reproduce powerful AI capabilities without the safeguards built around them.
We’re sharing new research on our work to combat distillation of our models, how these capabilities transfer, and how we detect and disrupt coordinated attempts.
These findings are helping us sharpen our defenses and support safeguards across the industry.
openai.com/index/combatting-a…
来源:OpenAI · x.com
来源:RadarAI · aihot.news