大语言模型上的奖励窃取攻击（ReSA）

研究者提出奖励窃取攻击（ReSA），一种针对 LLM 对齐背后潜在安全奖励的对抗攻击框架。ReSA 用最大熵逆强化学习仅从对齐模型的行为中恢复代理奖励模型，再在推理时反转该奖励以导出对抗策略，从而绕开现有方法计算成本高、依赖严格模型配对的限制。