arXiv cs.AI· Seyed Arshan Dalili, Ajay Narayanan Sridhar, Vijaykrishnan Narayanan, Mehrdad Mahdavi·· 12 小时前AI 评分22
Cobras：基于黎曼激活引导的条件最优桥接方法
Conditional Optimal Bridge for Riemannian Activation Steering
AI 导读
研究者提出 Cobras，将大语言模型的激活引导建模为残差流超球面上的薛定谔桥，从良定义优化问题中推导出对数密度比引导目标，并构建查询自适应引导场，把对数密度比引导作为极限情形纳入。该方法还能给出支撑分数以控制 OOD 干预。在四个模型上，Cobras 在有用性、真实性和去毒等任务中几乎全部模型—任务设置下优于既有引导方法，同时基本保持 OOD 性能，代码已开源。
正文 · AI 翻译
摘要：激活引导为在推理时控制大语言模型提供了一种轻量级的替代微调的方法。许多现有的引导方法隐式地优化期望与不期望激活分布之间的对数密度比目标，但缺乏有原则的推导。采用固定引导方向的方法还可能降低分布外（OOD）性能。我们提出用于黎曼激活引导的条件最优桥（\textsc{Cobras}），将引导建模为残差流超球面上的薛定谔桥。该形式化从适定的优化问题出发，为对数密度比引导目标提供了有原则的推导。我们构建了一个查询自适应引导场，将对数密度比引导作为极限情形恢复出来。拟合得到的传输还提供了一个支持度分数，用于控制 OOD 干预。在四个模型上，\textsc{Cobras} 在涵盖有用性、真实性和去毒性的几乎所有模型—任务设置中均优于先前的引导方法，同时基本保持了 OOD 性能。代码可在 \href{此 https URL}{此处} 获取。
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2607.10517 [cs.LG] |
| （或 arXiv:2607.10517v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2607.10517 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Seyed Arshan Dalili [查看电子邮件]
[v1]
2026年7月12日星期日 00:36:46 UTC（1,589 KB）
[v2]
2026年10月21日星期三 11:42:23 UTC（2,130 KB）
来源：arXiv cs.AI · arxiv.org