arXiv cs.AI· Parth A. Gandhi, Avital Aviv, Prasanna N. Wudali, Yuval Elovici, Asaf Shabtai·· 13 小时前AI 评分52
Scan Before You Install:检测与缓解 Agent 技能中的本地及组合漏洞
Scan Before You Install: Detecting and Mitigating Local and Composite Vulnerabilities in Skills
AI 导读
研究团队提出六模块扫描器,用于检测 Agent 技能中非恶意的本地漏洞与多技能组合漏洞。其本地分析在 SkillTrustBench 的 556 例子集上召回率 95.90%。
正文 · AI 翻译
摘要:智能体技能包封装了自然语言指令、脚本和参考文件,供基于 LLM 的智能体在任务中加载。技能可在用户授权的权限下访问文件系统、shell 和网络;其弱点可能导致不安全执行。现有扫描器主要针对恶意技能,而非公共仓库中的非预期漏洞,且孤立分析技能,忽视了多技能交互。为弥补这些空白,我们开发了一个六模块扫描器:内容提取、本地分析、组合分析、验证、报告和缓解。本地分析检测良性技能中的非预期漏洞。在 SkillTrustBench 的 556 个案例排行榜子集上,它实现了 95.90% 的召回率和 4.22% 的误报率;在 1,000 个 MalSkillBench 技能的平衡样本上,其 F1 为 0.947,优于 Cisco 的 Skill Scanner、NVIDIA 的 SkillSpector、AgentSkillsScanner 和 SkillSieve。在来自 75 个星标最多的 GitHub 仓库的 1,587 个技能中,三名分析师确认了 23 个仓库中 59 项发现中的 53 项(89.8% 精确率)。我们为每个漏洞开发了概念验证(PoC)攻击,向维护者披露了 10 个中高危案例,并在其余案例上测试了缓解措施。组合分析通过共享资源、调用和指令介导的交互来建模技能间的依赖关系。在 SCR-Bench 上,其 F1 分数为 0.991(98.7% 精确率,99.6% 召回率),而随 CompoSkill 发布的三种 SkillsGuard 配置为 0.816-0.858。它在 GitHub 上识别出两项组合发现,并经 PoC 攻击验证。缓解模块推荐技能替换、补丁和配置更改。对于 55 项 GitHub 发现中的 47 项,缓解措施在所有试验中阻止了 PoC 攻击,同时保留了测试的合法功能。
| 主题: | 密码学与安全(cs.CR);人工智能(cs.AI) |
| 引用为: | arXiv:2610.37901 [cs.CR] |
| (或 arXiv:2610.37901v1 [cs.CR] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.37901 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Asaf Shabtai [查看电子邮件]
[v1]
2026年10月27日星期二 19:43:31 UTC(1,588 KB)
来源:arXiv cs.AI · arxiv.org