FlipJev黑盒攻击为Jev模型生成通用对抗后缀

1. 12:00
   arXiv cs.AI

   FlipJev：快速黑盒红队攻击可为类型化决策模型找到通用对抗后缀

   针对类型化决策模型 Jev，研究者提出黑盒查询攻击 FlipJev，不调用任何攻击方语言模型，数分钟内即可找到翻转高置信度答案的短后缀。在 12 个数据集上，常见提示词注入策略在 10,240 组配对测试中均未改变正确答案，而每个数据集一个通用后缀可翻转 43% 的未见文档。这些后缀还能跨任务迁移，由单一任务生成的后缀在其他任务上可翻转 90-100% 的样本。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。