研究者提出PSR优化卸载MoE解码

Siming Huang 等研究者提出预取引导路由（PSR），用于卸载式 MoE 解码中的专家选择。该方法让路由基于一个确定性的逻辑缓存做决策：每层、每个 token 最多插入下一层 router 预测的 n 个专家，物理拷贝只影响延迟。 按研究者的说法，这一设计把预取与路由决策绑定，使缓存感知的专家选择在逻辑层面确定，而不改变路由所依据的物理拷贝过程。目前报道仅给出方法描述，未报告实测效果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。