arXiv cs.AI· Yanxi Li, Ruocheng Shan·· 3 天前AI 评分24
标签伪装防御（LDD）能否抵御 LLM 情感分类中的提示注入？
Semantics as a Shield: Label Disguise Defense (LDD) against Prompt Injection in LLM Sentiment Classification
AI 导读
研究提出标签伪装防御（LDD），将情感分类的输出标签从 positive/negative 替换为 good/bad、cat/dog 等替代标签，再映射回情感类别，以测试提示注入攻击下的准确率变化。
正文 · AI 翻译
摘要：提示注入可导致大语言模型（LLM）遵循嵌入在不可信输入中的指令，从而偏离其预期任务。我们以情感分类为案例，研究改变分类器的输出标签能否在此类攻击下提高准确率。标签伪装防御（LDD）将 positive/negative 替换为 good/bad 或 cat/dog 等替代标签，通过演示引入，并将预测映射回情感类别。我们分析了保留的汇总结果，涵盖 200 条 IMDb 评论、九种记录的模型配置以及八组替代标签对，在一种固定攻击下进行，该攻击始终使用原始标签请求错误的类别。按每组四对取平均，情感相关标签在所有九种配置中均优于其他测试标签，但仅在三种配置中超过使用原始标签及相同演示和攻击条件的基线。在七种配置中，至少有一组替代标签对优于该基线，最佳标签对为回顾性识别。这些结果表明，标签组之间的一致优势并不意味着相对于标准标签的一致改进。缺少对未受攻击评论的匹配评估，导致无法将普通分类性能的变化与攻击效果的变化区分开来。
| 评论： | 8 页，3 幅图。大幅修订了表述、分析和讨论 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2511.21752 [cs.CL] |
| （或 arXiv:2511.21752v3 [cs.CL] 为本版本） | |
| https://doi.org/10.48550/arXiv.2511.21752 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Yanxi Li [查看邮箱]
[v1]
2025 年 11 月 23 日星期日 20:16:51 UTC（1,260 KB）
[v2]
2026 年 2 月 3 日星期二 22:03:52 UTC（1,260 KB）
[v3]
2026 年 10 月 13 日星期二 03:55:48 UTC（85 KB）
来源：arXiv cs.AI · arxiv.org