arXiv·· 14 天前AI 评分31
智能体安全上下文切换：通过正交适配缓解子空间干扰
Safe Context Switching for Agents in the Wild: Mitigating Subspace Interference via Orthogonal Adaptation
AI 导读
研究识别出大语言模型在逻辑推理与安全对齐两类任务间的"序列子空间干扰"现象：在多步数学与代码生成等逻辑任务上标准微调，会在对齐基准上造成 23.3% 的干扰惩罚，显著削弱模型安全先验。论文提出通过正交适配实现智能体的安全上下文切换，以缓解这种子空间干扰。
来源：arXiv · arxiv.org