arXiv cs.AI· Qitao Tan, Xiaoying Song, Arman Akbari, Arash Akbari, Yanzhi Wang, Xiaoming Zhai, Lingzi Hong, Zhen Xiang, Jin Lu, Geng Yuan·· 10 天前AI 评分22
Palette：面向 LLM 按需授权安全对齐放松的模块化可控高效框架
Palette: A Modular, Controllable, and Efficient Framework for On-demand Authorized Safety Alignment Relaxation in LLMs
AI 导读
研究者提出 Palette，一个模块化、可控且高效的框架，可对授权目标领域选择性放松 LLM 的拒绝行为，同时保留其他场景的标准安全性。该方法通过多目标搜索识别拒绝方向，并用轻量适配将其内化到模型中，还支持独立学习各领域安全控制、经参数合并实现按需多领域授权而无需重训练。在四个安全基准、多个模型变体及 LLM 与 VLM 上的实验显示，Palette 实现了精确安全控制且未牺牲通用效用。
正文 · AI 翻译
摘要：当前基础模型的安全对齐在很大程度上遵循\emph{一刀切}范式，对用户和上下文应用相同的拒绝策略。因此，模型可能会拒绝那些对普通用户不安全但对授权专业人员合法的请求，从而限制了在专业场景中的有用性。现有方法要么需要昂贵的重新对齐，要么依赖推理时引导，而后者存在控制不精确和额外延迟的问题。为此，我们提出\textsc{Palette}，一个模块化、可控且高效的框架，可在授权目标领域选择性地放宽拒绝行为，同时在其他领域保持标准安全性。我们的方法通过多目标搜索识别拒绝方向，并通过轻量级适配将其内化到模型中。\textsc{Palette}进一步支持模块化组合：它独立学习领域特定的安全控制，并通过参数合并进行组合，从而无需重新训练即可实现按需的多领域授权。在四个安全基准、多个模型变体以及 LLM 和 VLM 上的实验表明，\textsc{Palette}在不牺牲通用实用性的情况下实现了精确的安全控制，为适应多样化专业需求的基础模型提供了一条实用路径。
| 主题： | 人工智能（cs.AI）；软件工程（cs.SE） |
| 引用为： | arXiv:2605.24154 [cs.AI] |
| （或使用 arXiv:2605.24154v2 [cs.AI] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2605.24154 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Qitao Tan [查看邮箱]
[v1]
2026年5月22日星期五 19:22:17 UTC（16,759 KB）
[v2]
2026年10月5日星期一 17:57:43 UTC（16,760 KB）
来源：arXiv cs.AI · arxiv.org