研究者提出ES2微调方法提升LLM安全性
热点事件持续更新
研究者提出ES2微调方法提升LLM安全性
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Xu Zhao、Xiting Wang、Weiran Shen 提出并实验验证了嵌入空间分离（ES2）微调方法，通过拉大有害与无害嵌入向量之间的距离来增强大语言模型安全性，使对抗攻击需要更大的嵌入偏移才能破坏语义。 ES2 引入嵌入锚定损失和 KL 散度两项正则损失，以避免损害模型能力。研究者称，经 ES2 微调的模型对多种攻击方法具备优异防御表现，通用能力与基线模型相当，但部分任务出现一定性能下降。
AI 根据报道生成 · 54 分钟前更新
最新进展11月2日 13:00
通过嵌入空间分离提升大语言模型安全性报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv cs.CL通过嵌入空间分离提升大语言模型安全性
研究者提出微调方法 ES2（Embedding Space Separation），通过拉大有害与无害嵌入向量之间的距离来增强 LLM 安全性，使对抗攻击需做更大嵌入偏移从而破坏语义。ES2 引入嵌入锚定损失和 KL 散度两项正则损失，避免损害模型能力。实验显示其对多种攻击方法具备优异防御表现，通用能力与基线模型相当，但部分任务出现一定性能下降。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。