用 Jev 决策模型替代大语言模型实现低延迟边缘服务编排

研究将 Jev 的决策导向 API 集成进边缘服务编排，以降低自然语言服务请求在启动前的模型决策延迟开销，同时保持服务完成率。该方案提取 4 到 8 个有界意图字段，并统一应用验证器、准入策略和调度器，在整个请求时间线中计入决策等待时间。研究对比了 Jev、两个自托管决策模型和三个托管 LLM。