arXiv·· 12 天前AI 评分29
有害 SFT 在 LLM 检查点更新中留下连续痕迹
Harmful SFT Leaves a Continuous Trace in LLM Checkpoint Updates
AI 导读
研究发现，有害合规 SFT 会在 LLM 检查点更新空间中留下连续、依赖目标的排序痕迹，无需执行模型即可读取。研究者以纯有害合规、安全导向和良性效用三类 SFT 定义参考几何，据此得到检查点级别的坐标。
来源：arXiv · arxiv.org
有害 SFT 在 LLM 检查点更新中留下连续痕迹