SafeStart 缓解 MoE 专家裁剪带来的安全代价
热点事件持续更新
SafeStart 缓解 MoE 专家裁剪带来的安全代价
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Erfan Baghaei Potraghloo 等作者提出 SafeStart 方法，用于缓解 MoE 大模型推理中主动削减激活专家导致模型拒绝有害请求能力下降的问题。该方法在生成回复的开头阶段运行全部专家，之后才切换到削减后的专家集。 作者在 vLLM、单张 RTX A6000 上测试：保留约三分之二的选中专家时，batch size 8 下离线解码加速 15%–28%；启用 SafeStart 后，batch size 8 和 32 下仍保留至少 85% 的加速，并使三种专家削减方法在三个模型上受该越狱手段影响的变化落在 -2.1 至 +1.3 个百分点之间。作者称该方法在保留大部分加速的同时基本恢复了拒答能力。
AI 根据报道生成 · 54 分钟前更新
最新进展11月5日 13:00
SafeStart：缓解 MoE LLM 推理中主动专家削减被忽视的安全代价报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.AISafeStart：缓解 MoE LLM 推理中主动专家削减被忽视的安全代价
SafeStart 通过在每个回复开头运行全部专家、之后才启用削减后的专家集，在保留大部分加速的同时基本恢复模型对有害请求的拒绝能力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。