arXiv cs.CL· Yosef Nuraga Wicaksana, Muhammad Reza Qorib, Fadhil Muhammad, Alfan Farizki Wicaksono·· 10 小时前AI 评分22
SYNC:面向多人设对齐的动态层选择免训练推理控制器
SYNC: A Training-Free Inference Controller for Dynamic Layer Selection in Multi-Persona Alignment
AI 导读
SYNC 是一个免训练的推理控制框架,可兼容已有的 steering vectors,通过余弦相似度轨迹动态估计每层对每个人设的敏感度,在每个解码步为每个人设分配最优注入层。在 2 个模型、2 组人设配置及无监督与监督提取的 steering vectors 上,SYNC 在 28 种人设配置中的 21 种领先,其中 15 种显著领先。代码已公开。
正文 · AI 翻译
摘要:引导向量在推理时对齐模型而无需改动其权重,但同时引出多个人格与引出单个人格是不同的难题。此前的多人格引导方法预先确定了人格向量的组合方式以及注入的具体层。此外,这种静态设定会带来大量离线搜索成本以确定合适的目标层,尽管最优干预强度在解码步骤和不同人格之间都会动态变化。我们提出 SYNC(SensitivitY-guided iNference Control,敏感度引导的推理控制),这是一种新颖的免训练推理控制框架,可与已有的引导向量兼容。SYNC 通过余弦相似度轨迹动态估计每一层对每个人格的敏感度,并在每个解码步骤将每个人格分配到其最优注入层。在两个模型、两种人格配置以及来自无监督和有监督提取的引导向量上,SYNC 在 28 种人格配置中的 21 种上领先,其中 15 种显著领先。代码见 此 https URL。
| 评论: | 审稿中 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| 引用为: | arXiv:2611.02636 [cs.CL] |
| (或 arXiv:2611.02636v2 [cs.CL] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2611.02636 arXiv 颁发的 DOI 经由 DataCite |
提交历史
来自:Yosef Wicaksana [查看邮箱]
[v1]
2026年11月2日星期一 06:59:50 UTC(142 KB)
[v2]
2026年11月3日星期二 05:45:25 UTC(142 KB)
来源:arXiv cs.CL · arxiv.org