arXiv cs.MA· Masoud Shokrnezhad, Tarik Taleb·· 10 小时前AI 评分29
面向智能体 AI 系统的不确定性感知资源编排
Uncertainty-Aware Resource Orchestration for Agentic AI Systems
AI 导读
针对 LLM 驱动的智能体流水线在调度时无法预知算力、带宽和延迟需求的问题，研究者将其形式化为不确定性感知的智能体编排问题，并提出在线算法 CRO（Conformal Reservation for Orchestration）。
正文 · AI 翻译
摘要：由大语言模型（LLM）驱动的智能体式人工智能（AI）系统以自主的多步流水线形式执行，动态调用工具、将观测结果整合进记忆，并反复迭代，直到任务完成或资源预算耗尽。与具有固定图的经典工作流不同，此类流水线的总计算量、带宽和端到端延迟需求在调度时是未知的：它们在运行时由中间观测和随机 token 采样产生，形成重尾、多峰的随机变量。这种不可预测性迫使基础设施编排器陷入两难：配置不足可能导致执行中途被限流和违反截止时间，而过度配置则浪费稀缺的边缘或云端容量。现有调度器要求完全已知的流水线图，而边缘资源管理方法依赖参数化或平稳需求模型，二者都不适用于智能体流水线未知且非平稳的需求特征。我们将这一情形形式化为不确定性感知的智能体编排问题，其目标是在调度时预留能够覆盖实际流水线需求的计算和带宽分配，并以规定概率验证流水线能够满足其截止时间。随后我们提出用于编排的共形预留（CRO），这是一种在线算法，通过共形预测将过去执行轨迹的滑动窗口转化为调度时的资源分配，并具有有限样本、无分布假设的覆盖保证。在具有多峰和重尾特征的异构任务组合上的仿真表明，CRO 是唯一在所有风险水平下同时满足目标概率覆盖的评估方法，并且在覆盖可行的各方法中实现了最低的过度预留，将 Chebyshev 界基线的资源浪费大约减半。
| 评论： | 6 页，2 幅图。已被 IEEE MECOM 2026 接收，摩洛哥马拉喀什，2026 年 11 月 2-4 日 |
| 主题： | 人工智能（cs.AI）；分布式、并行与集群计算（cs.DC）；机器学习（cs.LG）；多智能体系统（cs.MA）；网络与互联网架构（cs.NI） |
| 引用为： | arXiv:2611.05392 [cs.AI] |
| （或 arXiv:2611.05392v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.05392 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Masoud Shokrnezhad [查看邮箱]
[v1]
2026 年 9 月 14 日星期一 09:30:19 UTC（646 KB）
来源：arXiv cs.MA · arxiv.org