DeepSeek 发布 V4.1-Flash-1017 模型并开放自研搜索 API
DeepSeek 发布新模型 DeepSeek-V4.1-Flash-1017,网页端、APP 与 API 已同步切换,配套 DeepSeek Harness 升级至 0.2.1 版本。
推荐理由:新版本在基准测试提升的同时压缩了任务运行时间和输出长度,读者可据此判断 Agent 编码的成本边界变化。
技术方向
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
58 条精选近 30 天 55 条共收录 5,255 条
DeepSeek 发布新模型 DeepSeek-V4.1-Flash-1017,网页端、APP 与 API 已同步切换,配套 DeepSeek Harness 升级至 0.2.1 版本。
推荐理由:新版本在基准测试提升的同时压缩了任务运行时间和输出长度,读者可据此判断 Agent 编码的成本边界变化。
Meta 发布开源权重模型 Muse Spark Open,并称其是当前最强的美国开源模型,同期还推出闭源模型 Muse Wonder 与 Muse Wonder Full。
推荐理由:文章把 Meta 开源与闭源模型的同期发布放进美国前沿实验室竞争格局里比较,并拆解其自定义许可的实际约束。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,已在官网、App 和 API 开放,权重开源在 Hugging Face 和 ModelScope。
推荐理由:材料给出新模型在智能体与编程任务上的基准与单任务成本对比,可据此判断小模型的实际性价比。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,已在官网、App 和 API 上线,并在 Hugging Face 与 ModelScope 开源模型权重。
推荐理由:DeepSeek 新 Flash 模型在自家基准上以更低单任务成本超过更大模型,读者可据此比较性能与成本取舍。
DeepSeek 发布开源权重模型 DeepSeek-V4.1-Flash-1017,在 DeepSWE 1.1 基准上取得 77% Pass@1,据称超过 GLM-5.3、Kimi K3、GPT-5.6 Sol 和 Opus 5。模型已上线 DeepSeek Chat、API 和 HuggingFace,官方称相比上一版性能更强、任务完成更快、输出更短,并在性能与成本上实现 Pareto 改进。
推荐理由:DeepSeek 新开源权重模型在编码基准上的成绩与极低成本,为评估开源模型能否替代闭源方案提供了参照。
Reflection AI 推出开源权重模型 Beam,面向编码智能体与长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:文章给出 Beam 的参数量、上下文长度与三种部署路径,可据此判断开源编码模型在 AWS 上的落地成本。
Reflection 发布首个开源权重模型 Beam,权重已在 Hugging Face 以 Apache 2.0 协议放出。Beam 为稀疏 MoE 模型,总参数 501B、激活 23B,面向编码、推理和长程智能体任务。该模型提供 BF16、FP8、NVFP4 精度权重和投机解码 drafter 模型。
推荐理由:Reflection 首次开源 501B 稀疏 MoE 权重,可据此了解其面向编码与长程智能体的参数配置和精度选项。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE,并在 NVIDIA Blackwell 上完成优化,推理、工具调用和结构化输出开箱可用。
推荐理由:vLLM 从 Day 0 支持 Beam 并给出内核融合与自适应验证的实测数据,可看推理栈如何承接新架构。
AMD 与 Embedded LLM 在 vLLM Blog 详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化,在 AgentX 基准 50 tokens/s/user P90 交互性下达到约 7。
推荐理由:AMD 与 vLLM 社区拆解 Kimi K3 在 MI355X 上的六项推理优化,可迁移到自建推理栈的瓶颈排查。
vLLM 与 Meta Superintelligence Labs 合作,在 Muse Spark Open 发布当天为其提供 Day 0 支持。
推荐理由:vLLM 在发布当天给出 Muse Spark Open 的部署命令、量化格式与 DSpark 投机解码配置,可据此评估 1M 上下文的生产落地成本。
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署为 SageMaker AI 端点。
推荐理由:Meta 的编码优化开源模型接入 SageMaker JumpStart,文中给出两种量化变体的实例选型与部署步骤,可据此估算自托管成本。
Black Forest Labs 发布 FLUX 3 Image Klein,这是 FLUX 3 家族中紧凑的开源权重模型,参数量 5.6B,保留大尺寸 FLUX 3 Image 的边界框等控制功能,并提供未蒸馏的 Base 版和低延迟的 Distilled 版。
推荐理由:原文给出 5.6B 开源权重的量化加速数据与消费级 GPU 实测,可据此判断本地图像生成的成本变化。
Meta 发布 Muse Spark Open 的开放权重,这是一个 816B 总参数、42B 激活的模型,上下文窗口 1M tokens,已在 Hugging Face 上以 Muse Model License 提供。
推荐理由:Meta 开源 816B 总参数、42B 激活的编码与智能体模型,并给出 Helion 内核与 TorchTitan 微调路径,可据此评估开源权重模型的部署与二次训练成本。
Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型:四台 M5 Ultra 组成的集群运行 816B 参数的 Muse Spark Open 时生成速度超过 36 tokens/s,单机 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍、生成速度提升 1.6 倍。
推荐理由:Apple 官方给出 MLX 在 Mac Studio 集群上跑近万亿参数模型的实测数据,可据此判断本地大模型推理的可行边界。
NVIDIA 发布开放模型 Nemotron 3.5 Super VL,1200 亿参数,主打多模态智能体任务,官方称其吞吐量最高可达同类模型的 5 倍,精度接近 NVIDIA 最大推理模型而参数量约为其五分之一。
推荐理由:NVIDIA 一次放出三款覆盖数据中心到端侧的开放权重模型,并列出各行业后训练案例,可据此判断开放模型在企业智能体部署中的位置。
PyTorch 官方博客发布 ExecuTorch 的 Arm Cortex-M 后端,让 PyTorch 模型无需转换格式即可直接运行在 Cortex-M CPU 上,并通过 CMSIS-NN 加速,覆盖 Scalar、DSP 和 MVE/Helium 全部能力档位。
推荐理由:ExecuTorch 新增 Cortex-M 后端,给出各能力档位与 MLPerf Tiny 实测数据,可据此评估 MCU 端部署路径。
vLLM 团队提出让训练前向直接调用 vLLM 推理 kernel 并修改这些高性能 kernel,使 rollout 与训练对每个采样 token 产生逐位相同的 logprob(diff = 0)。
推荐理由:原文给出训练与推理逐位一致的具体做法与吞吐代价,可据此判断高性能 RL 训练中数值对齐的取舍。
阶跃星辰正式释放 Step 5 Preview 模型权重,包含 BF16 与 FP8 权重、技术博客和配套开源开发工具,已上线 Hugging Face 和 ModelScope。
推荐理由:阶跃星辰开放 Step 5 Preview 权重,读者可据此了解其稀疏 MoE 架构与百万 token 上下文在长程 Agent 任务上的设计取舍。
vLLM 发布基于 push 的 NIXL KV 传输连接器 NixlPushConnector,把传输协调与建立从解码实例的关键路径移到预填充侧的后台线程。
推荐理由:vLLM 官方给出 push 模式 KV 传输的架构与复现脚本,可对照 pull 模式判断是否切换部署。
面壁智能与 OpenBMB 开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型,约 3G 内存即可在 iOS、安卓设备上运行。
推荐理由:面壁开源 MiniCPM-V 4.7,给出 35B-A3B 在手机端 3G 内存运行的具体实测与压缩数据,可据此判断端侧多模态的落地边界。