arXiv cs.AI· Alexandros Xenos, Manos Plitsis, Niki Foteinopoulou, Yannis Panagakis, Ioannis Patras·· 3 天前AI 评分27
Contrastive Covariance Steering：无需训练消除混淆变量的激活引导方法
Contrastive Covariance Subspaces for Activation Steering
AI 导读
研究者提出 Contrastive Covariance Steering（CCS），一种无需训练的激活引导方法，通过求解对比方差目标以闭式解将引导向量投影到低维子空间，保留目标概念变化方向、抑制与其他类别共享的方向。
正文 · AI 翻译
摘要：激活引导通过在推理过程中向隐藏激活添加一个方向来控制大语言模型的行为。要使引导效果良好，该方向必须是目标概念的纯信号：任何与之纠缠的混杂因素，例如附带的主题或写作风格，都会与概念本身一起被注入残差流，从而降低生成文本的质量。我们提出了对比协方差引导（Contrastive Covariance Steering，CCS），这是一种无需训练的方法，可消除这种混杂变异。CCS 将引导向量投影到一个低维子空间，该子空间通过求解对比方差目标以闭式解获得，它保留了目标概念发生变化的方向，同时抑制了与其他类别共享的方向。在三个大语言模型和四个引导领域上，CCS 在所有 $12$ 个模型-领域设置中始终优于所有基线引导方法。最大的相对提升出现在 AxBench 和 Emotion 上，我们分别比次强的引导基线高出 $48$ 到 $70\%$ 和 $13$ 到 $27\%$。此外，CCS 比朴素的均值差引导高出多达 $151\%$，凸显了去混杂概念的重要性。一个玩具实验验证了我们的动机：在训练数据中植入主题干扰会使未投影引导下降 $46\%$，而 CCS 仅损失 $12\%$，并弥补了与显式删除所植入方向的 oracle 之间的大部分差距。一项由 $23$ 名评分者对 $296$ 个生成样本进行的人类研究复现了 LLM 评判的排名。我们广泛的消融实验验证了该方法各组件的重要性以及对干扰类别数量的鲁棒性。最后，我们将方法扩展到多轮对话，其中 CCS 能持续保持概念表达和流畅性，与其他引导方法发生漂移时仍能匹配系统提示的性能。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.14025 [cs.LG] |
| （或使用 arXiv:2610.14025v1 [cs.LG] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.14025 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Manos Plitsis [查看电子邮件]
[v1]
2026年9月29日星期二 20:20:07 UTC（189 KB）
来源：arXiv cs.AI · arxiv.org