研究者提出质量-多样性红队框架QDRT

Ren-Jian Wang 等作者提出质量-多样性红队框架 QDRT，用于自动生成高质量且多样的大语言模型攻击者。该框架通过行为条件训练和开放式行为回放缓冲区实现目标驱动的攻击多样性，并训练多个专门化攻击者覆盖不同攻击风格与风险类别。 作者称，评估显示 QDRT 生成的攻击在 GPT-2、Llama-3、Gemma-2、Qwen2.5 及商用模型 GPT-4.1、GPT-5-Chat 上兼具更强多样性与攻击效果。代码已开源。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。