arXiv cs.CL· Giovana Kerche Bon\'as, Thales Sales Almeida, Marcelo da Silva Reis, Rodrigo Nogueira, Marcos Meideiros Raimundo·· 2 天前AI 评分30
PRISM：工具调用语言模型激活干预的迁移与局限
PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models
AI 导读
研究团队提出 PRISM 框架，评估激活干预在精度、语言和规模上的迁移能力。用 NF4 量化副本的行为标签可在极少场景下稳定估计干预方向，五语言 NF4 监督方向无需目标语言微调即可迁移至阿拉伯语，将 Llama-3.1-8B 的不安全违规降低 21.95 个百分点，并借助配对良性激活迁移至最大 70B 参数的模型。实验代码与交互式结果浏览器已公开。
正文 · AI 翻译
摘要：近期文献表明，不安全的工具调用往往与语言模型中的文本拒绝同时出现。为探究这一隐藏漏洞，我们提出了 PRISM，一个用于评估激活干预在精度、语言和规模之间迁移的框架。我们的研究结果表明，利用较低资源的设置（特别是量化 NF4 标签和跨语言迁移）为揭示和改进模型对齐提供了一条稳健的途径。值得注意的是，使用来自 NF4 副本的行为标签，即使在场景极少的情况下也能实现稳定的干预估计。此外，这些对齐改进能够有效地跨语言迁移：五语言 NF4 监督方向成功迁移到留出的阿拉伯语，在未进行目标语言调优的情况下，将 Llama-3.1-8B 中的不安全违规减少了 21.95 个百分点。通过映射成对的良性激活，我们还成功地将这些安全干预迁移到更大的模型（最多 700 亿参数）。最终，PRISM 凸显了来自压缩模型的辅助监督和多语言数据如何能够揭示并缓解不同模型家族中的危险工具调用行为。我们在 此 https URL 发布了所有实验代码和支持性工件，并在 此 https URL 提供了记录模型响应和实验结果的交互式浏览器。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.20808 [cs.CL] |
| （或 arXiv:2610.20808v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.20808 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Giovana Bonás [查看电子邮件]
[v1]
2026年10月14日星期三 18:55:23 UTC（176 KB）
来源：arXiv cs.CL · arxiv.org