跳到正文
热点事件持续更新

Flide:精确状态分叉加速决策推理

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Bobo Li 等作者提出并发布决策模型推理引擎 Flide,通过 ForkAttention 在单条扁平 token 流中把请求的逻辑树结构与物理执行解耦,使每个查询分支与独立前向计算完全一致。作者称,在公开混合模型与决策模型上,其回答速度最高达 vLLM 和 SGLang 的 9.5 倍,总变差距离最接近 float32 参考结果。 该引擎还支持从早期检查点恢复不断扩展的智能体历史。上述加速与精度数据均为作者在论文中的说法。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.CL
    Flide:用精确状态分叉加速决策推理

    Flide 是一个面向决策模型(如 Jev)的精确推理引擎,通过 ForkAttention 在单条扁平 token 流中解耦请求的逻辑树结构与物理执行,保证每个查询分支与独立前向计算完全一致。在公开混合模型与决策模型上,其回答速度最高达 vLLM 和 SGLang 的 9.5 倍,同时总变差距离最接近 float32 参考结果。该引擎还支持从早期检查点恢复不断扩展的智能体历史。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。