针对黑盒 LLM 的受控解码攻击

研究者提出一种针对黑盒 LLM 的受控解码攻击方法，可在仅返回采样文本的接口上绕过模型的安全对齐。现有方法依赖模型权重或数值 token 概率，而该方法通过从采样输出中重建概率分布来实施攻击，但有限采样会带来稀疏且含噪的估计，并在每个生成步骤重复采样导致大量查询开销。