arXiv cs.CL· Zhiyang Xia, Yuming Shang, Xi Zhang·· 11 小时前AI 评分32
LLM 主动式对话系统中的交互式后门攻击
Interactive Backdoor Attacks in LLM-Based Proactive Dialogue Systems
AI 导读
研究者提出一种交互式后门攻击框架，通过训练数据投毒在 LLM 主动式对话系统中植入触发条件引导策略偏差，普通用户话语即可激活，无需部署时修改提示词或攻击者再介入。
正文 · AI 翻译
摘要：基于 LLM 的主动式对话系统通过持续交互提供目标导向的支持。在外部提供的对话数据上对其底层模型进行微调会引入后门风险。现有的 LLM 后门研究主要关注在触发器激活时诱导攻击者指定的响应。我们提出了一种交互式后门攻击框架，利用训练数据投毒将触发器激活后的多轮交互引导至攻击者指定的目标。被投毒的微调对话会植入一种以触发器为条件的引导策略偏差，普通用户话语即可激活该偏差，无需在部署时修改提示词或攻击者进一步干预。具体而言，我们在逐步扩展的触发器激活后交互设置下实例化了三种互补攻击：（1）直接攻击，针对触发器激活时的即时响应偏离，保留传统的触发器—响应设置；（2）受限渐进攻击，沿预定义的多轮轨迹逐步推进攻击目标；（3）无约束渐进攻击，将目标导向的引导扩展到具有多样化用户后续输入的开放式交互。以心理咨询作为代表性场景，在两个 LLM 主干模型和两个对话数据集上的实验表明，三种攻击在各自的交互设置下均有效实现了目标，同时基本保持了正常效用。单独的防御评估表明，所测试的训练数据过滤器几乎保留了所有被投毒对话，而三个准入后基线仍留下大量残余的攻击特定成功率。
| 评论： | 26 页 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.06969 [cs.CL] |
| （或 arXiv:2611.06969v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06969 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Zhiyang Xia [查看邮箱]
[v1]
2026 年 11 月 4 日星期三 12:22:44 UTC（2,113 KB）
来源：arXiv cs.CL · arxiv.org