跳到正文
arXiv·· 12 天前AI 评分34

SkillPoison:通过成功经验实现渐进式技能投毒

SkillPoison: Progressive Skill Poisoning via Successful Experiences

AI 导读

研究者提出 SkillPoison,证明无需让任何单条轨迹含恶意内容,仅凭经过验证的成功经验也能对自我改进的 LLM 智能体实现技能投毒,且恶意行为会逐步累积为持久技能。现有技能攻击方法因向单条经验或提取技能注入恶意触发器、行为或虚假事实而容易被检测,SkillPoison 则规避了这一局限。

来源:arXiv · arxiv.org