arXiv cs.AI· Yuanjian Xu, Jinyi Han, Jianing Hao, Yuxuan Sun, Fanyang Lu, Richeng Xuan, Guang Zhang, Zhichao Hu·· 2 天前AI 评分32
AgentPerturb：评估 LLM 智能体在受控交互扰动下的鲁棒性
AgentPerturb: Evaluating LLM Agent Robustness under Controlled Interaction Perturbations
AI 导读
研究团队提出 AgentPerturb，从扰动目标与类型两个维度构建统一框架，评估 LLM 智能体在交互扰动下的鲁棒性。在 APEX-Agents 和 Toolathlon 上的受控评测显示，扰动会持续拉低性能，且主要脆弱点因任务环境而异；轨迹分析发现智能体很少识别被篡改的输入，常未经核验就传播被污染的信息，成功完成扰动轨迹还可能消耗更多算力。
正文 · AI 翻译
摘要：现实世界的任务往往复杂且充满噪声，给 LLM 智能体带来了巨大挑战。然而，现有评估缺乏一个系统性的框架来联合刻画潜在的扰动目标和类型。我们利用这一二维视角开展了一项统一研究，量化当前前沿模型的鲁棒性，追溯扰动引发失败的机制，并得出对面向鲁棒性训练的启示。通过在 APEX-Agents 和 Toolathlon 上进行受控评估，我们发现扰动会持续降低性能，而主要脆弱性因任务环境而异。轨迹级分析表明，智能体很少识别出被改变的输入，并且常常在未经验证的情况下传播被污染的信息。一项针对性的成本分析进一步表明，成功的受扰动轨迹可能需要显著更多的计算。这些发现促使我们提出涵盖多种噪声形式并奖励验证、不确定性意识和恢复能力的训练目标。我们提供了一套严格的基准构建流程。代码和数据将在 此 https URL 发布。
| Comments: | 25 页，10 张图。项目仓库：此 https URL |
| Subjects: | 人工智能（cs.AI） |
| Cite as: | arXiv:2610.21624 [cs.AI] |
| （或 arXiv:2610.21624v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21624 由 DataCite 颁发的 arXiv DOI（待注册） |
Submission history
来自：Yuanjian Xu [查看邮箱]
[v1]
2026 年 10 月 15 日星期四 10:05:54 UTC（1,847 KB）
来源：arXiv cs.AI · arxiv.org