arXiv·· 12 天前AI 评分39
随机嵌入扰动如何越狱开源权重 LLM
Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
AI 导读
研究者提出 Perturbed Embedding Vector（PEV）攻击，通过随机嵌入扰动越狱六款不同规模的开源权重 LLM，在 JailbreakBench 数据集上稳定诱导出有害或不安全回复。该方法简单快速，成本低于此前的越狱手段。
来源：arXiv · arxiv.org