Reflection AI 开源编码智能体模型 Beam,并给出 AWS 部署路径
Reflection AI 推出开源权重模型 Beam,面向编码智能体与长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:文章给出 Beam 的参数量、上下文长度与三种部署路径,可据此判断开源编码模型在 AWS 上的落地成本。
Reflection AI 推出开源权重模型 Beam,面向编码智能体与长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:文章给出 Beam 的参数量、上下文长度与三种部署路径,可据此判断开源编码模型在 AWS 上的落地成本。
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生逐位相同的 logprob(diff = 0)。
推荐理由:原文给出训练与推理逐位一致的具体做法与吞吐代价,可据此判断高性能 RL 训练中数值对齐的取舍。
作者用 FastVideo 的 FastH3 V2 checkpoint 配合四步采样、稀疏注意力 VSA、ClipProj 小文本编码器、INT8 剪枝 checkpoint。
推荐理由:作者把单张 RTX 5090 上跑实时视频的七项优化逐条拆开,可迁移到其他视频模型的推理部署。