跳到正文
arXiv cs.AI· Detao Zeng, Guilin Ou, Nuo Chen, Yunhao Feng, Hongliang Wang, Qinli Yang, Junming Shao, Zhong Zhang·· 11 小时前AI 评分34

Async-RBench:评测 LLM 智能体的异步任务执行能力

Async-RBench: Benchmarking Asynchronous Task Execution in LLM Agents

AI 导读

研究者推出 Async-RBench,一个面向 LLM 智能体异步任务执行的基准,含 200 个可执行任务、覆盖 8 类场景,并用 Event Response Contract(ERC)规定每次响应须改变、保留、避免和重新验证的内容。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大语言模型(LLM)智能体越来越多地以异步方式执行任务:主智能体在其子智能体运行时继续工作,任务状态可能在子智能体的结果到达之前发生变化。主智能体必须决定哪些工作要更新或保留、哪些检查要重复执行,同时避免被禁止的更改。仅凭最终任务成功与否无法揭示这些结果是否被正确处理,而自然的异步到达也难以复现。我们提出 Async-RBench,一个用于 LLM 智能体异步任务执行的基准,包含覆盖八种场景的 200 个可执行任务。场景控制器使用预定义的任务状态条件来调控结果的交付,而事件响应契约(ERC)则规定每次响应必须更改、保留、避免和重新验证的内容。动态重规划得分(DRS)对响应过程和结果给予同等权重,并与任务成功率分开报告。我们评估了九个智能体,发现 DRS 得分在 19.2 到 45.1 之间,在重复报告和子智能体失败上得分最低。在我们的执行协议下,全部九个智能体在异步交付下的任务成功率均低于批量交付(平均 26.0% 对 29.7%)。对于三个智能体,提示主智能体在每次结果后重建其计划仅使 DRS 提高 2.6 到 3.5 分。总之,这些发现凸显了可靠异步任务执行的挑战,以及需要评估智能体如何处理传入结果以及端到端任务成功率。
评论: 25 页,16 幅图。代码可在 此 https URL 获取
主题: 人工智能(cs.AI)
引用为: arXiv:2610.32429 [cs.AI]
  (或 arXiv:2610.32429v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.32429

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Detao Zeng [查看电子邮件]
[v1] 2026 年 10 月 23 日星期五 09:53:45 UTC(4,025 KB)

来源:arXiv cs.AI · arxiv.org