arXiv cs.CL· Anna C. Marbut, Daniel R. Olson, Travis J. Wheeler·· 11 小时前AI 评分31
在 MoE 模型中分解拒绝引导机制
Decomposing Refusal Steering in Mixture-of-Experts Models
AI 导读
研究将拒绝引导（refusal steering）方法扩展到三个开源 MoE 大模型，发现引导效果不受 MoE 复杂路由模式影响，单个专家在可自选位置时平均可复现 78% 的完整引导效果。但若将专家限制在全层引导所用的位置，复现率降至平均 54%，在安全相关系统提示下差距进一步扩大。拒绝信号与专家路由行为所捕获的信号并不相同，表明拒绝行为在 MoE 架构中分布不均，而非由单一统一机制控制。
正文 · AI 翻译
摘要：指令微调大语言模型（LLM）的安全对齐依赖于模型可靠拒绝有害或不被允许请求的能力。近期工作表明，可以在推理阶段向稠密 LLM 施加引导向量，以抑制拒绝行为并诱导其对有害请求作出回应。我们将这种拒绝引导方法扩展到三个开源混合专家（MoE）LLM，以分解并更好地理解拒绝机制在 MoE 各组件间如何运作。我们发现，引导性能不受 MoE 架构固有的复杂路由模式抑制，且单个专家在可自由选择自身位置时平均可恢复完整引导效果的 78%。然而，当专家级引导被限制在全层引导所用的位置时，平均仅能恢复 54%，这一差距在安全相关系统提示下进一步扩大。我们的结果还表明，这些引导方法捕获的拒绝信号与专家路由行为捕获的拒绝信号不同。综合来看，这些结果表明拒绝行为在 MoE LLM 架构中分布不均，而非由单一统一机制支配。
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2606.04160 [cs.CL] |
| （或本版本的 arXiv:2606.04160v3 [cs.CL]） | |
| https://doi.org/10.48550/arXiv.2606.04160 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Anna Marbut [查看邮箱]
[v1]
2026年6月2日星期二 19:23:46 UTC（237 KB）
[v2]
2026年9月19日星期六 21:15:06 UTC（248 KB）
[v3]
2026年10月20日星期二 16:57:45 UTC（248 KB）
来源：arXiv cs.CL · arxiv.org