arXiv cs.AI· Yuhao Sun, Zhuoer Xu, Shiwen Cui, Kun Yang, Lingyun Yu, Yongdong Zhang, Hongtao Xie·· 10 小时前AI 评分34
UpSafe°C：通过 Upcycling 实现大语言模型可控安全
UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models
AI 导读
UpSafe°C 提出一种安全感知的 upcycling 框架，将安全关键层改造为稀疏 MoE 结构，由路由器作为软护栏选择性激活原始 MLP 与新增安全专家。该方法结合两阶段 SFT 与推理时"安全温度"机制，可动态调节安全与效用的权衡。多基准、多基座模型与多规模实验显示其在抵御有害及越狱输入上取得稳健安全提升，同时保持通用任务竞争力。
正文 · AI 翻译
摘要：大型语言模型（LLMs）在广泛任务中取得了显著进展，但仍易受有害内容生成和越狱攻击等安全风险的影响。现有安全技术——包括外部护栏、推理时引导和训练后对齐——在平衡安全性、实用性和可控性方面均存在局限。在本工作中，我们提出 UpSafe$^\circ$C，一个通过安全感知升级回收（safety-aware upcycling）增强 LLM 安全性的统一框架。我们的方法首先识别安全关键层，并将其升级回收为稀疏的专家混合（MoE）结构，其中路由器充当软护栏，选择性地激活原始 MLP 和新增的安全专家。我们进一步引入两阶段 SFT 策略，以增强安全判别能力，同时保留通用能力。为在推理时实现灵活控制，我们引入安全温度机制，允许动态调整安全性与实用性之间的权衡。在多个基准、基础模型和模型规模上的实验表明，UpSafe$^\circ$C 在针对有害和越狱输入方面实现了稳健的安全提升，同时在通用任务上保持有竞争力的性能。此外，分析表明安全温度提供了细粒度的推理时控制，实现了实用性与安全性之间可控的权衡。我们的结果凸显了 LLM 安全的一个新方向：从静态对齐转向动态、模块化和推理感知的控制。代码：this https URL。
| 注释： | 被 NeurIPS 2026 接收 |
| 主题： | 人工智能（cs.AI）；密码学与安全（cs.CR）；机器学习（cs.LG） |
| 引用为： | arXiv:2510.02194 [cs.AI] |
| （或 arXiv:2510.02194v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2510.02194 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Yuhao Sun [查看邮箱]
[v1]
2025年10月2日 星期四 16:43:33 UTC（3,660 KB）
[v2]
2026年11月4日 星期三 05:25:15 UTC（3,634 KB）
来源：arXiv cs.AI · arxiv.org