arXiv cs.AI· Kaixiang Wang, Zhaijiacheng Zhou, Jiong Lou, Jie Li·· 2 天前AI 评分32
Jev-LiteMAS:在多智能体工作流中分离决策与生成
Jev-LiteMAS: Separating Decisions from Generation in Multi-Agent Workflows
AI 导读
Jev-LiteMAS 通过将多智能体工作流中的路由与审查操作交给轻量决策模型 Jev,在四个基准和两个骨干模型上将生成式 LLM token 消耗较 LAS 降低 12.7-54.6%,准确率差距控制在 1.34 个百分点以内,八种设置中有七种延迟下降。
正文 · AI 翻译
摘要:多智能体 LLM 系统依赖生成模型进行专家执行、工作流规划和产物审查。然而,许多协调操作只需要有界决策,例如选择下一位专家或评判产物质量。通过对三个代表性 MAS 框架进行分析,我们发现路由和审查占生成式 LLM token 的 31.7-43.5%。然而,用低成本决策模型替换这些操作会引入两个接口缺口:生成式规划器产生执行计划和交接指令(规划缺口),而审查器提供可操作的反馈以修复有缺陷的产物(审查缺口),仅有有界决策无法提供这些。我们提出 Jev-LiteMAS,一个多智能体框架,通过将轻量级决策模型(Jev)与生成式执行和反馈相结合来弥合这两个缺口。为解决规划缺口,Jev 根据任务和先前专家输出动态选择专家,利用累积上下文为后续执行提供依据,而无需预先生成轨迹。为解决审查缺口,Jev 根据任务标准筛选中间产物:通过的产物直接继续,而被标记的产物则经过 LLM 重新审查以决定接受或给出纠正性反馈。在四个基准和两个骨干模型上,Jev-LiteMAS 相比 LAS 将生成式 LLM token 减少 12.7-54.6%,准确率保持在 1.34 个百分点以内,并在八种设置中的七种降低了延迟。将路由建立在实质性专家输出之上可防止高达 18.0 个百分点的准确率损失。
| Subjects: | 人工智能(cs.AI) |
| Cite as: | arXiv:2610.21411 [cs.AI] |
| (或 arXiv:2610.21411v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.21411 由 DataCite 颁发的 arXiv DOI(待注册) |
Submission history
来自:Kaixiang Wang [查看邮箱]
[v1]
2026年10月15日星期四 07:26:26 UTC(362 KB)
来源:arXiv cs.AI · arxiv.org