arXiv cs.AI· Lizhi Zhang, Xin He, Dianxuan Fu, Yuyuan Feng, Jiatong Li, Qi Wang, Xin Wang, Qinggang Zhang·· 10 天前AI 评分41
SkillPoison：通过成功经验实现渐进式技能投毒
SkillPoison: Progressive Skill Poisoning via Successful Experiences
AI 导读
研究者提出 SkillPoison 框架，通过构造强化目标行为的成功经验并移除其适用条件，让技能提取器在泛化时把有用行为误用为有害行为，在三个 benchmark 上达到 95.71% 攻击成功率。所有注入经验均保持任务正确，可通过验证与词法检查。代码、数据与实现细节已公开。
正文 · AI 翻译
摘要：自我改进的 LLM 智能体越来越多地将成功经验提炼为持久、可复用的技能。现有的技能攻击方法通过向单个经验或提取出的技能中注入恶意触发器、行为或虚假事实，来破坏这一学习流程。然而，此类攻击很容易被检测到，且注入的恶意行为往往无法累积为持久技能。在本文中，我们表明，技能投毒甚至可以源于经过验证的成功经验，而无需使任何单条轨迹具有恶意。基于这一洞见，我们提出了 SkillPoison，一个通过成功经验逐步投毒技能的新框架。SkillPoison 首先构建一组强化目标行为的成功经验，然后移除约束该行为适用情境的上下文条件。SkillPoison 并非注入恶意内容，而是塑造技能提取器的泛化方式，使有用的行为支持任务成功，同时在它们被误用时诱导出有害行为。在三个基准上的大量实验表明，SkillPoison 达到了 95.71% 的攻击成功率，同时所有注入的经验仍保持任务正确，并通过验证与词法检查。我们的代码、数据和实现细节已在 此 https URL 向社区公开。
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.07645 [cs.CR] |
| （或 arXiv:2610.07645v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07645 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Xin He [查看电子邮件]
[v1]
2026年10月6日星期二 02:38:36 UTC（1,752 KB）
来源：arXiv cs.AI · arxiv.org