跳到正文
热点事件持续更新

FlexFloor弹性专家并行加速RL后训练

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Jia Wei 等作者提出并发布 FlexFloor 系统,用于强化学习后训练的同步响应生成阶段:它联合调整响应调度与活跃 worker 组,在保留进行中响应所需专家计算的同时提前释放计算资源。 据该研究称,相比 verl 基线,FlexFloor 单位占用计算时间生成的响应 token 数提升约 65.40%,响应生成吞吐提升 52.74%,rollout reward 变化很小。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv cs.AI
    FlexFloor:通过弹性专家并行实现资源高效的强化学习后训练

    FlexFloor 是一个在同步响应生成阶段提前释放计算资源的系统,通过联合调整响应调度与活跃 worker 组,在保持专家可用性的同时逐步释放 worker。相比 verl 基线,其单位占用计算时间生成的响应 token 数提升约 65.40%,响应生成吞吐提升 52.74%,rollout reward 变化很小。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。