SAFETYEDIT：稀疏内部目标实现LLM越狱后门
热点事件持续更新
SAFETYEDIT：稀疏内部目标实现LLM越狱后门
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Yutong Ke 等作者提出 SAFETYEDIT 越狱后门方法：优化单个与拒答相关的 MLP 坐标，并在早期注意力层用 KV-cache 标记把前缀触发信号传播到后续指令位置。作者称，在四个开源权重 LLM 和三个数据集组上，该方法在 12 项对比中 11 项取得最高触发 Guard ASR，12 项全部取得最高平均 StrongREJECT 分数。 消融与行为审计显示，测试配置下未触发行为与通用能力变化总体很小。
AI 根据报道生成 · 58 分钟前更新
最新进展10月19日 12:00
SAFETYEDIT：用稀疏内部目标与提示词级控制实现 LLM 越狱后门报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv cs.CLSAFETYEDIT：用稀疏内部目标与提示词级控制实现 LLM 越狱后门
SAFETYEDIT 通过优化单个与拒答相关的 MLP 坐标，并在早期注意力层用 KV-cache 标记把前缀触发信号传播到后续指令位置，实现 LLM 越狱后门植入。在四个开源权重 LLM 和三个数据集组上，它在 12 项对比中 11 项取得最高触发 Guard ASR，12 项全部取得最高平均 StrongREJECT 分数。消融与行为审计显示，测试配置下未触发行为与通用能力变化总体很小。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。