预训练漏洞可迁移至微调模型，PGP攻击被提出
热点事件持续更新
预训练漏洞可迁移至微调模型，PGP攻击被提出
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
Yixin Tan等作者发表论文称，在预训练模型上优化的对抗提示词能最有效地迁移到其微调变体，说明微调LLM会继承预训练来源的越狱漏洞。该研究设定攻击者完全掌握已发布的预训练LLM、但无法接触其专有微调衍生模型。 基于可迁移提示词在预训练隐状态中线性可分的发现，作者提出Probe-Guided Projection（PGP）攻击，并在多个LLM系列和微调任务上验证了强迁移成功率。作者称，同样的表征层面洞察还可用于构建轻量防御，在保持下游效用的同时缓解预训练到微调的越狱迁移。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 12:00
预训练模型暴露如何放大微调 LLM 的越狱风险：Probe-Guided Projection 攻击报道时间线
沿着报道，了解事件的不同侧面。
10月27日
- arXiv cs.AI预训练模型暴露如何放大微调 LLM 的越狱风险：Probe-Guided Projection 攻击
研究发现，在预训练模型上优化的对抗提示词能最有效地迁移到其微调变体，说明微调 LLM 会继承预训练来源的越狱漏洞。基于可迁移提示词在预训练隐状态中线性可分的发现，作者提出 Probe-Guided Projection（PGP）攻击，在多个 LLM 系列和微调任务上验证了强迁移成功率。同样的表征层面洞察还可用于构建轻量防御，在保持下游效用的同时缓解预训练到微调的越狱迁移。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。