White Circle 开源红队算法 RISE，称可绕过 OpenAI 与 Google 最新图像模型安全防护

Dongxi 东锡 NLP· @dongxi_nlp · X·2026-10-15 01:30· 2 小时前AI 评分59

AI 导读

White Circle 团队开源红队算法 RISE，可对 OpenAI、DeepMind 等最新图像模型进行 jailbreak。文中称 GPT-Image-2.5-Flare 被成功攻击的概率约为上一代的 3 倍，Nano Banana 2.1 约为上一代的 2 倍。

正文

模型越来越强，但是安全性跟上了吗？

尤其是 Visual Models，一旦安全防护被绕过，NSFW 内容就可能直接生成，风险更加直观。

White Circle 团队的最新研究 RISE：在相同攻击流程下，OpenAI 的 GPT-Image-2.5-Flare 被成功 jailbreak 的概率约为上一代的 3 倍，Google 的 Nano Banana 2.1 则约为上一代的 2 倍。

RISE 利用 Evolutionary Search 持续优化 jailbreak 策略。当某条 prompt 被拦截，系统可以根据反馈调整策略，自动生成新的攻击 prompts，持续探索模型的安全边界。

更值得关注的是，这套攻击与评估流程仅依靠开源工具和公开 API 就能实现。外部研究者无需访问模型内部，也能系统性地发现安全漏洞。