White Circle 开源 RISE 图像模型红队测试算法

Rohan Paul· @rohanpaul_ai · X·2026-10-15 05:43· 1 小时前AI 评分55

AI 导读

White Circle 开源了 RISE，一个自动化红队测试算法，用于检测 AI 图像生成器能否被诱导生成其规则禁止的图片。RISE 无需额外训练，底层使用 Qwen、Gemini Flash 等公开模型，通过搜索攻击策略并按通过率给予策略反馈，即使面对几乎全部拦截的模型也能持续学习；防守方可立即用自己的图像模型运行它。

正文

良好的安全工作越来越意味着良好的搜索。

White Circle 发布了 RISE，一个自动化工具，用于测试 AI 图像生成器能否被诱骗生成其自身规则禁止的图片。
它针对图像模型搜索各种攻击策略。一个开放的攻击模型将每种策略转化为大量提示词，而该策略会根据其中有多少提示词成功通过而获得评分。

这样一来，即使面对几乎拦截一切的模型，搜索过程也能持续学习。

代码是开源的，它使用的模型是公开的，防守方今天就能在自己的图像模型上运行它。

引用White Circle@whitecircle

我们正在开源 RISE，这是我们用于攻破 OpenAI、DeepMind 等公司最新图像模型安全防护的红队测试算法。 RISE 底层使用 Qwen 和 Gemini Flash 等现成模型，无需额外训练。阅读更多：https://whitecircle.com/research/breaking-frontier-image-models

在 X 查看被引用的帖子

来源：Rohan Paul · x.com