arXiv cs.CL· Yuanwei Wu, Lingdong Huang, Yunlong Mao, Kanye Ye Wang, Jingyu Hua, Sheng Zhong·· 11 小时前AI 评分31
ECHO：用响应危害性替代合规代理优化越狱攻击
ECHO: Replacing the Compliance Proxy with Response Harmfulness in Optimization-Based Jailbreak Attack
AI 导读
ECHO 提出用 HarmSig（1.7B 回归器）输出的响应级连续危害性分数替代 token 级合规代理，结合五种词级扰动算子和带全局 top-m 记忆的 Keyword-Anchored Beam Search，在严格黑盒威胁模型下优化越狱攻击。
正文 · AI 翻译
摘要：尽管进行了广泛的安全对齐，大型语言模型仍然容易受到越狱攻击。现有的基于优化的攻击共享单一目标：最大化受害者顺从的 token 级代理——例如肯定性前缀的可能性——该代理在提示上而非解码回复上计算。该代理无法区分谨慎的模糊回应与完全可操作的有害答案，使搜索对模型实际所说内容视而不见。我们提出 ECHO（Evaluation-Conditioned Harmfulness Optimization），它用来自 HarmSig 的回复级连续有害性分数取代顺从代理，HarmSig 是一个基于实际有害能力的 1.7B 回归器。在严格的黑盒威胁模型下，ECHO 将 HarmSig 与五个词级扰动算子以及具有全局 top-m 记忆的关键词锚定束搜索相结合。在 AdvBench 上的五个开放权重受害者模型上，ECHO 达到高达 0.898 的 StrongREJECT 平均分数和 89.23% 的 HarmBench 成功率。我们的代码公开于 此 https URL。
| 主题： | 密码学与安全（cs.CR）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.23030 [cs.CR] |
| （或 arXiv:2610.23030v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23030 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yuanwei Wu [查看电子邮件]
[v1]
2026年10月16日星期五 07:07:08 UTC（944 KB）
来源：arXiv cs.CL · arxiv.org