arXiv cs.CL· Narek Maloyan·· 9 天前AI 评分30
评估并提升大语言模型对输入序列变化的鲁棒性
Evaluating and Improving the Robustness of Large Language Models to Input Sequence Variations
AI 导读
这篇博士论文提出 R_stab(f) 生成式鲁棒性度量，并开发 ASA 自适应进化黑盒攻击，对 LLM-as-a-Judge 系统的攻击成功率最高达 73.8%，开源模型间迁移率最高 62.6%。
正文 · AI 翻译
摘要：生产系统中的大语言模型（LLM）面临提示注入、木马（后门）以及自动质量指标被操纵等威胁。本论文开发了用于评估和提升 LLM 对对抗性输入序列变化鲁棒性的模型、方法和算法。我们提出 R_stab(f)，一种基于小输入扰动下逐步输出分布之间 Jensen-Shannon 散度的生成式鲁棒性度量。对于局部化攻击，我们证明 V(h) <= 1 - R_class(h)，其中 R_class(h) 是决策算子 h 在小扰动下保持其决策的概率。对于非局部化攻击，我们提出一个经过校准的经验模型。对于 LLM-as-a-Judge 系统，我们开发了 ASA，一种自适应进化黑盒攻击，其攻击成功率（ASR）最高可达 73.8%，在开放模型之间的迁移率最高可达 62.6%。在 Trojan Detection Challenge 2023 数据（Pythia-1.4B）上，替代触发器达到 REASR ~0.99，而真实触发器的召回率约为 0.17，基线约为 0.14。在 SaTML CTF 2024 上，我们系统化了四类多层防御绕过方法，可将 ASR 从 90% 降至 15-25%。由 5-7 个异构模型组成的委员会可将 Gemma-3-4B 的 ASR 降低 47-55 个百分点，使用 7 个模型时降至 19.3%。对于基于模型上下文协议（MCP）的智能体系统，我们提出 AttestMCP，它使用受 HMAC 保护的数据包对工具调用进行证明，每次调用耗时低于 0.1 ms，并提出 Commit Boundary 隔离模式。在包含 847 个场景的 MCPBench 基准上，它们将平均 ASR 从 53.7% 降至 12.4%。这些方法已在 JudgeGuard 和 TrojanArmor 软件套件以及 MCPSec 模块中实现。
| 评论： | 博士论文，2026 年。118 页。v2：更正了致谢中的一个姓名拼写 |
| 主题： | 密码学与安全（cs.CR）；计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.02432 [cs.CR] |
| （或 arXiv:2610.02432v2 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.02432 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Narek Maloyan [查看电子邮件]
[v1]
2026 年 10 月 1 日星期四 19:57:56 UTC（154 KB）
[v2]
2026 年 10 月 8 日星期四 11:37:16 UTC（154 KB）
来源：arXiv cs.CL · arxiv.org