热点事件持续更新

PACE：按步准入控制 LLM 分支并行

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Swapnil Gandhi 等作者提出 PACE，一种逐步准入控制器：它把 LLM 输出中的额外分支视为机会性宽度，仅当预测的分支外部性落在批次当前 slack 预算内时才准入。在 Qwen3-32B 上，PACE 相比无分支并行服务提升 goodput 1.77 倍、相比 eager 准入提升 1.48 倍，并保持 99% SLO 达成率。作者称，在另外五个密集与 MoE 模型（最高 671B 参数）上取得 1.72–2.15 倍的可比增益。

AI 根据报道生成 · 2 小时前更新

最新进展11月4日 13:00

PACE：为 LLM 服务中的分支并行调度节流

报道时间线

沿着报道，了解事件的不同侧面。

11月4日

13:00
arXiv cs.CL
PACE：为 LLM 服务中的分支并行调度节流
PACE 是一种逐步准入控制器，把 LLM 输出中的额外分支视为机会性宽度，仅当预测的分支外部性落在批次当前 slack 预算内时才准入。在 Qwen3-32B 上，PACE 相比无分支并行服务提升 goodput 1.77 倍、相比 eager 准入提升 1.48 倍，并保持 99% SLO 达成率。在另外五个密集与 MoE 模型（最高 671B 参数）上取得 1.72–2.15 倍的可比增益。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。