arXiv cs.CL· Weilun Xu (EPFL), Zipeng Sun (McGill University,Mila)·· 3 天前AI 评分29
竞争性伦理框架的引导向量可互换：激活引导的竞争目标测试
Steering Vectors for Competing Ethical Frameworks Are Interchangeable: A Competing-Target Test for Activation Steering
AI 导读
研究者提出"竞争目标测试"，用于检验激活引导向量是否真正控制目标行为。在开放权重模型上，康德义务论与行为功利主义的引导向量在留出情境中使两个框架得分同向变化，且差异未达有效边界，说明二者共享了大部分方向——即"应用某种框架"的通用请求。相比之下，乐观与悲观语气的向量共享方向要少得多。
正文 · AI 翻译
摘要：激活引导会向模型的隐藏状态添加一个向量，以控制某个命名的行为。然而，该行为上的增益并不能表明该向量直接控制它：它可能通过与邻近行为共享的某个组件起作用，而未引导基线和随机基线无法区分这一点。我们引入了竞争目标测试：将某个向量与为竞争目标以相同方式构建的向量进行比较，并用等价性检验来判定它们的差异何时低于一个有用的界限。我们将该测试应用于开放权重模型中针对康德义务论（根据行为所遵循的规则来评判行为）和行为功利主义（根据行为产生的福祉来评判行为）的向量。在留出的情境上，提示某个框架会提高其得分并降低另一个框架的得分，而任一框架的向量都会使两个得分同向变化，且均未达到该界限。这两个向量共享了其大部分方向，即一个应用某种框架的请求；同样的构建方式将乐观语气与悲观语气区分开来，而它们的向量共享的部分要少得多。因此，一个向量与其竞争目标共享的部分决定了它所控制的内容：引导一种视角可能会产生混合结果，而测量一种倾向可能会测量到其邻近项，除非针对竞争目标进行测试。
| 评论： | 20 页，5 幅图 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.19359 [cs.AI] |
| （或使用 arXiv:2610.19359v1 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.19359 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Weilun Xu [查看电子邮件]
[v1]
2026 年 10 月 14 日星期三 01:00:35 UTC（355 KB）
来源：arXiv cs.CL · arxiv.org