CoFiBreak：多轮越狱攻击的粗到细多样性奖励

Jialin Song 等作者提出 CoFiBreak，一种用于 GRPO 的由粗到细多样性奖励方法，目标是提升多轮越狱攻击的多样性，同时保持攻击有效性和较低推理成本。 以 Llama3.1-8B-Instruct 为受害模型训练后，作者报告在 HarmBench 上发现的不同细粒度成功策略数量为最强基线的 1.6–2.0 倍；在 AdvBench 上达到 98.8% ASR@10，多样性得分为最强攻击基线的 2.1 倍。上述效果均为作者在论文中的报告。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。