arXiv cs.AI· Gabriel J. Perin, Lucas Boscaini, Andr\'e Araujo, Nina S. T. Hirata·· 2 天前AI 评分31
无需微调的 TFTV：用前向统计实现 LLM 行为控制
Training-Free Task Vectors for LLM Behavioral Control
AI 导读
研究者提出 Training-Free Task Vectors（TFTVs），无需微调即可计算类任务向量方向，仅用前向传播统计将激活引导向量映射为秩一权重空间编辑，并支持加法学习、减法遗忘与多编辑组合。在 LLM 行为控制任务上，TFTVs 能持续放大、抑制和组合目标行为，同时保留通用知识与解题能力，相比其他编辑与引导基线实现了更强的特质控制与更优或相当的效用保持。代码已在项目网站公开。
正文 · AI 翻译
摘要：任务向量通过识别权重空间中语义有意义的方向，实现训练后的模型编辑，通常计算为微调模型与其预训练初始化之间的差异。然而，这种对微调的依赖使得发现此类方向成本高昂，并限制了训练后模型编辑的实用性。为解决这一局限，我们提出了无训练任务向量（TFTVs），一种无需微调即可计算类任务向量方向的新方法。我们的方法仅使用前向传播统计量，将激活引导向量映射为秩一权重空间编辑，同时满足直接支持通过加法学习、通过减法遗忘以及多个编辑组合的算术性质。在实证方面，我们在大型语言模型行为控制任务上评估了 TFTVs，并表明它们能够持续放大、抑制和组合目标行为，同时保留通用知识和问题解决能力。我们还针对其他编辑和引导基线验证了我们的方法，实验表明 TFTVs 在实现更强特质控制的同时，具有更好或具有竞争力的效用保持能力。我们希望我们的工作能为社区在训练后模型编辑和更广泛的无训练模型控制方面开辟新方向。代码可在项目网站获取：this http URL。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.09054 [cs.LG] |
| （或 arXiv:2609.09054v2 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.09054 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Gabriel Perin [查看邮箱]
[v1]
2026年9月8日星期二 17:10:28 UTC（683 KB）
[v2]
2026年10月14日星期三 17:32:51 UTC（659 KB）
来源：arXiv cs.AI · arxiv.org