arXiv cs.CL· Yujia Zheng, Tianhao Li, Shangzhi Xu, Yuekai Huang, Ziyou Jiang, Zhaoyang Li, Yuyao Ge, Junran Peng, Mingyang Li·· 14 小时前AI 评分52
CoSA：真实 LLM 智能体生态中的技能冲突攻击
CoSA: The Conflict of Skills Attack in Real-World LLM Agent Ecosystems
AI 导读
论文提出 Conflict of Skills（CoS）问题，即单个 Skill 检查合规但组合后可能产生策略违规，并据此构造 Conflict of Skills Attack（CoSA），在不改动现有 Skill 和运行时权限的前提下向技能池加入本地准入 Skill。
正文 · AI 翻译
摘要：Agent Skills 允许 LLM 智能体组合可复用的能力，但孤立地检查每个 Skill 无法排除它们组合时出现的策略违规。我们将此类失败称为 Skill 冲突（Conflict of Skills，CoS）：为某一目的产生的工件或评估信号可能在下游被复用，却未保留其新用途所需的限制或授权。通过对公开可用的 Skill 进行受控执行，并与匹配的单 Skill 对照，我们识别出 CoS 背后的四种反复出现的机制。基于这些发现，我们提出 Skill 冲突攻击（Conflict of Skills Attack，CoSA），它向现有池中添加本地准入的 Skill，以补充缺失的业务操作（能力补充），或重塑工件交换、决策复用以及目标/动作绑定（关系重塑）。CoSA 不改变现有 Skill 和运行时权限。为在自主 Skill 选择下评估这一威胁，我们推出 CoSA-Bench，它基于真实世界的 Skill 和受控服务构建，包含招聘、财务、IT 和业务领域的 288 项任务，涵盖数据泄露、未授权状态修改和不安全执行。在五个 LLM 和三个智能体框架上，添加量上限为每个原始池的 5%，使策略违规率从 35.02% 升至 58.45%，提高了 23.43 个百分点。轨迹分析将合规到违规的转变与涉及这些添加的跨 Skill 依赖联系起来。最后，我们开发了一种轻量级的框架级防护，在产生后果的动作之前检查信息流和授权。在五个模型上的 OpenClaw 招聘任务中，该防护将违规率从 65.28% 降至 6.67%，而匹配的良性对照上的策略合规任务完成率从 66.67% 变为 65.00%。
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI）；密码学与安全（cs.CR） |
| 引用为： | arXiv:2610.35082 [cs.CL] |
| （或 arXiv:2610.35082v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.35082 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Tianhao Li [查看邮箱]
[v1]
2026年10月26日 星期一 09:25:38 UTC（575 KB）
来源：arXiv cs.CL · arxiv.org