GOAL框架缓解安全对齐LLM过度拒答

1. 12:00
   arXiv cs.AI

   重新审视安全对齐大语言模型的过度拒答：表征与优化视角

   研究从表征与优化角度分析安全对齐 LLM 的过度拒答问题，发现有害样本与过度拒答样本的表征在深层逐渐重叠，且有害样本梯度集中于低秩子空间、与拒答目标梯度耦合更强。为此提出 GOAL 框架，通过将过度拒答梯度对有害梯度提取的低秩拒答子空间做正交化，并引入对比学习目标增强两类表征分离。多模型多基准实验显示，GOAL 在缓解过度拒答的同时保持了安全性能与通用能力。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。