Flide:精确状态分叉加速决策推理
热点事件持续更新
Flide:精确状态分叉加速决策推理
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Bobo Li 等作者提出并发布决策模型推理引擎 Flide,通过 ForkAttention 在单条扁平 token 流中把请求的逻辑树结构与物理执行解耦,使每个查询分支与独立前向计算完全一致。作者称,在公开混合模型与决策模型上,其回答速度最高达 vLLM 和 SGLang 的 9.5 倍,总变差距离最接近 float32 参考结果。 该引擎还支持从早期检查点恢复不断扩展的智能体历史。上述加速与精度数据均为作者在论文中的说法。
AI 根据报道生成 · 55 分钟前更新
最新进展11月2日 13:00
Flide:用精确状态分叉加速决策推理报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv cs.CLFlide:用精确状态分叉加速决策推理
Flide 是一个面向决策模型(如 Jev)的精确推理引擎,通过 ForkAttention 在单条扁平 token 流中解耦请求的逻辑树结构与物理执行,保证每个查询分支与独立前向计算完全一致。在公开混合模型与决策模型上,其回答速度最高达 vLLM 和 SGLang 的 9.5 倍,同时总变差距离最接近 float32 参考结果。该引擎还支持从早期检查点恢复不断扩展的智能体历史。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。