arXiv cs.AI· Xiaofang Yang, Ziqi Miao, Chen Qian, Dianbo Sui, Jing Shao, Lijun Li·· 6 天前AI 评分37
Defense-as-Skill：为技能增强型智能体演化运行时防护技能
Defense-as-Skill: Evolving Runtime Guard Skill for Skill-Augmented Agents
AI 导读
研究者提出 Defense-as-Skill 范式，将运行时防护本身实现为可安装、可检查、可编辑的技能，其防护组件 SkillSonar 与不可信任务技能并行运行，按用户任务边界将敏感操作路由为允许、重规划或确认，且不修改底层智能体运行时。
正文 · AI 翻译
摘要：技能增强型智能体将可复用技能作为持久运行时上下文加载，提升了任务表现，但也让恶意技能获得了一条持久通道来操控后续动作。此类技能可能泄露机密、破坏代码、绕过审批，或仅在具体用户任务与工作区状态使不安全操作显得有用之后才为数据外泄做准备。这使得安装前审查不足，需要运行时、任务条件化的防护。我们提出 Defense-as-Skill，一种将运行时防护本身实现为可安装、可检查、可编辑技能的防御范式。我们的防护 SkillSonar 与不受信任的任务技能并行运行，依据用户任务边界检查敏感操作，将每个操作路由为允许、重新规划或确认决策，而无需修改底层智能体运行时。为研究这一设定，我们构建了 SCOPE-R，一个任务条件化数据集，涵盖 6 个风险家族和 21 个子类别，包含 206 个攻击确认的恶意实例和 43 个良性任务。随后我们使用运行时防护技能演化在 SCOPE-R 训练子集上改进 SkillSonar，这是一种蒙特卡洛树搜索过程，根据 rollout 反馈演化磁盘上的防护技能。在 Claude Code 和 OpenClaw 上，演化后的防护大幅降低了攻击成功率，同时保持了良好的安全-效用权衡；在重复的 GLM-5 运行中，ID ASR 从 0.482 降至 0.104，OOD ASR 从 0.606 降至 0.115，且增益可迁移至受害模型、留出风险家族和外部基准。这些结果表明，运行时防护可以成为技能增强型智能体的技能原生、透明且可演化的策略产物。
| 评论： | 被 NeurIPS 2026 接收。代码：此 https URL |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.01487 [cs.CR] |
| （或 arXiv:2609.01487v2 [cs.CR] 对应此版本） | |
| https://doi.org/10.48550/arXiv.2609.01487 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Xiaofang Yang [查看邮箱]
[v1]
2026年9月1日星期二 16:19:31 UTC（8,400 KB）
[v2]
2026年10月9日星期五 12:29:56 UTC（8,398 KB）
来源：arXiv cs.AI · arxiv.org