arXiv·· 16 天前AI 评分31
Certified Mechanistic Edits:技能移除与保留的行为保证
Certified Mechanistic Edits: Behavioral Guarantees for Skill Removal and Preservation
AI 导读
研究提出对机制编辑(消融、权重编辑、激活引导)的行为效果进行认证,而非仅靠测试验证:证明禁用某电路后,在全部输入范围内都能移除一项技能并保留另一项技能。现有方法只能通过测试验证效果,无法覆盖连续的整个输入区域;此前可解释性-验证方向的工作认证的是模型描述(电路计算内容或解释是否忠实),该工作转而认证编辑本身的行为效果。
来源:arXiv · arxiv.org