arXiv·· 13 天前AI 评分38
如何防御 LLM 的顺序马赛克攻击：Reflections and Fragments 提出马赛克防御理论
Reflections and Fragments: Securing LLMs Against Sequential Mosaic Attacks
AI 导读
针对真实攻击者日益采用的多轮"马赛克攻击"——单条片段无害、组合后构成有害载荷——研究者提出了一套马赛克防御理论，刻画在不牺牲有用性的前提下阻止此类攻击所需的条件。该理论首先证明，任何固定的近期提示词有界窗口在一般情况下都不充分，因为安全相关信息可能出现在交互中任意靠前的位置。
来源：arXiv · arxiv.org