arXiv cs.AI· Antonio Ken Iannillo, Joshua Segun Owotogbe, Roberto Natella, Francesco Avallone, Kristina Kudryavtseva, Indika Kumara·· 11 小时前AI 评分60
MCP-Injector 研究:真实 MCP 故障下工具调用智能体规模不带来容错
Tool-Calling LLM Agents Under Realistic MCP Faults: Scale Does Not Purchase Fault Tolerance
AI 导读
研究团队提出 MCP-Injector,一种协议感知的故障注入中间件,其故障模型基于 1,774 个开源 MCP 仓库的 57,240 条 issue 与 PR 讨论校准。
正文 · AI 翻译
摘要:LLM 智能体日益依赖通过模型上下文协议(MCP)暴露的外部工具,但当前的基准测试假定工具能正确、及时地响应,因而智能体对现实工具故障的韧性尚未得到检验。我们提出 MCP-Injector,一种即插即用、协议感知的故障注入中间件,它介入 MCP 工具调用路径,具备受控的持续性(永久、瞬时、间歇)和可设种子的调度。其故障模型依据公开 MCP 生态系统中观测到的事件分布(故障模式 × 持续性)进行校准,该分布挖掘自 1,774 个开源 MCP 仓库中的 57,240 条 issue 与 pull-request 讨论串。在一项 1,350 个单元的实验中,交叉了两种骨干规模(20B、120B)、三种智能体栈(自定义多轮 plan-and-execute、OpenAI Agents SDK、LangChain)和三种故障注入条件,我们发现,取自这一以永久故障为主的压力配置的故障会造成严重的质量下降(任务完成得分下降 60%,从 8.08 降至 3.23,满分 10 分),并且对于我们测试的两个 gpt-oss 骨干而言,规模并不能换来容错能力:120B 在故障下保留的无故障得分份额并不更大(韧性比率模型,$p = 0.96$),而其在故障下的完成率即便有差异也更低(91.1% 对 95.6%;差异 4.4 个百分点,95% CI $[-0.2, 9.3]$)。不同智能体栈吸收故障的能力存在差异,这表明框架层面的错误处理比模型规模更重要。这些结果表明,仅凭能力基准测试可能掩盖运行脆弱性,从而推动将协议感知的故障注入作为工具调用智能体的一项补充评估维度。
| 评论: | 已被 NeurIPS 2026 接收(poster)。正文 10 页,另附附录和 NeurIPS 检查清单。代码与数据:this https URL(存档于 this https URL) |
| 主题: | 软件工程(cs.SE);人工智能(cs.AI) |
| ACM 分类: | D.2.5;I.2.7 |
| 引用为: | arXiv:2610.32555 [cs.SE] |
| (或本版本的 arXiv:2610.32555v1 [cs.SE]) | |
| https://doi.org/10.48550/arXiv.2610.32555 arXiv 颁发的 DOI(通过 DataCite,待注册) |
提交历史
来自:Antonio Ken Iannillo [查看邮箱]
[v1]
2026 年 10 月 23 日星期五 12:35:51 UTC(239 KB)
来源:arXiv cs.AI · arxiv.org