arXiv cs.AI· Zhipeng Wei, Michael Lee, N. Benjamin Erichson·· 12 小时前AI 评分34
多轮越狱攻击的有效视界压缩：约一半查询序列即可恢复同等攻击进展
Multiple Turns, Short Horizons: Measuring Effective-Horizon Compression in Jailbreaks
AI 导读
研究提出“有效视界”概念，衡量多轮越狱攻击中恢复同等攻击进展所需的最短查询序列，实验发现平均约一半的原始查询序列就足够，称为有效视界压缩。该短历史可恢复未成功攻击所达到的最佳点，并为继续攻击提供更好起点；据此对早期查询降低学习信号权重可提升攻击者训练效果。短奖励传播窗口还能保持接近全轨迹回报的校准防御性能。
正文 · AI 翻译
摘要：多轮越狱利用受害大型语言模型的反馈，在多个轮次中调整其查询。然而，一旦找到有效的轨迹，就不清楚还需要多少先前的查询历史。在本工作中，我们通过移除早期的攻击者查询，并在新对话中重新运行剩余的查询，同时重新生成受害者的响应来研究这一点。我们将有效视野定义为能够恢复相同攻击进展的最短剩余查询序列。从经验上看，我们发现平均而言，大约一半的原始查询序列就足以恢复相同的攻击进展。我们将这一现象称为有效视野压缩。我们表明，这种更短的历史可以恢复在一次不成功攻击中达到的最佳点，并为继续攻击提供更好的起点。它还有助于识别哪些早期查询在攻击者训练期间应获得较少的学习信号，并且降低这些查询的权重可以提高性能。我们进一步发现，短奖励传播窗口能够保持接近完整轨迹回报的校准防御性能。这些结果表明，多轮攻击可能包含比恢复交互后期所达到进展所需的更多查询。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.22928 [cs.AI] |
| （或此版本的 arXiv:2610.22928v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2610.22928 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Zhipeng Wei [查看电子邮件]
[v1]
2026年10月16日星期五 04:44:43 UTC（170 KB）
来源：arXiv cs.AI · arxiv.org