CAA 激活引导能走多远？行为-能力边界研究

查看 PDF HTML（实验性）

摘要：激活引导可以在不更新参数的情况下改变语言模型的行为，但仅凭行为效果并不能决定一项干预是否可用。对比激活加法（CAA）利用从对比样本中导出的激活方向来引导目标行为，在此过程中可能会损害模型不相关的能力。因此，我们通过行为—能力前沿来研究 CAA，选择在能力退化有明确上限约束下最大化行为收益的干预。我们在四个指令微调模型、七种行为以及 1%、3% 和 5%（绝对百分点）的能力损失预算下评估该框架。经验证集选出的行为效果能很好地泛化到留出数据（$\rho = 0.945$），而在非零工作点中，行为与能力同时存活的联合比例从 1% 预算下的 37.5% 上升到 3% 下的 72.7%，5% 时提升有限。对照实验表明，这些效果依赖于学习到的行为方向，而非一般的激活扰动。表征几何对因果性的跨行为迁移具有显著但仅适度的预测能力。最后，次级能力、分布外和开放式评估表明，满足受保护基准的干预仍可能损害未经测试的能力，或对自由形式生成的迁移不均衡。这些结果将激活引导刻画为一种受约束的干预，其可用范围取决于模型、行为、方向、层和评估预算，而非通用的控制旋钮。

评论：	23 页，18 幅图
主题：	机器学习（cs.LG）；计算与语言（cs.CL）
引用为：	arXiv:2611.06001 [cs.LG]
	（或 arXiv:2611.06001v1 [cs.LG] 用于此版本）
	https://doi.org/10.48550/arXiv.2611.06001 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Deepanshu Raj [查看邮箱]
[v1] 2026 年 11 月 4 日星期三 05:48:15 UTC（1,733 KB）