Liquid AI 发布 LFM2.5-24B-A2B：面向端侧 Agent 的 2B 激活 MoE 推理模型
Liquid AI 发布开源权重推理模型 LFM2.5-24B-A2B，总参数 24B、每 token 激活约 2.45B，上下文 131,072 tokens，专为笔记本和迷你 PC 上的多步工具调用 Agent 设计，在 Apple M5 Max 上通过 llama.cpp Q4_K_M 达到 184 tok/s。
MarkTechPost· Asif Razzaq·2026-10-14 15:50· 3 小时前AI 评分62
Liquid AI 发布 LFM2.5-24B-A2B：面向端侧 Agent 的 2B 激活 MoE
AI 导读
Liquid AI 发布开源权重推理模型 LFM2.5-24B-A2B，总参数 24B、每 token 激活约 2.45B，上下文 131,072 tokens，专为笔记本和迷你 PC 上的多步工具调用 Agent 设计，在 Apple M5 Max 上通过 llama.cpp Q4_K_M 达到 184 tok/s。
正文
Liquid AI 发布了 LFM2.5-24B-A2B，这是一款面向在笔记本和 PC 上运行的 Agent 的开源权重推理模型。LFM2.5-24B-A2B 是一个 24B 参数的混合专家（MoE）模型，每个 token 激活约 2B 参数。它是 LFM2.5 系列中最大也是最后一个成员。Liquid AI 在流行的 Agent 框架内对其进行了训练，因此它面向的是多步工具使用，而非开放式聊天。基础权重和后训练权重已在 Hugging Face 上提供。
TL;DR
- 规模：总计 24B，激活 2B（根据模型卡精确为 2.45B），131,072-token 上下文。
- 运行于：通过 GGUF/MLX 在笔记本和迷你 PC（Apple M5 Max、AMD Ryzen AI Max+ 395）上运行；单台 NVIDIA B300 用于服务。提供 FP8、GGUF、ONNX 和 MLX 4/5/6/8-bit 版本。
- 性能：在 Liquid AI 的测试中，于 8 项 Agent 和工具使用基准中的 5 项上领先或匹敌更大的 MoE。
- 最佳：AutomationBench 27.69，是 Qwen3.6-35B-A3B（8.72）的 3 倍多。
- 最差：SWE-Bench Verified（OpenCode）51.00，而 Qwen3.6-35B-A3B 为 66.20。
- 结论（最佳）：快速、低成本的本地工具调用和指令遵循。
- 结论（最差）：在知识和编程方面较弱；需搭配检索使用。
什么是 LFM2.5-24B-A2B？
它是一个纯文本、纯推理的 MoE 模型，专为本地 Agent 循环构建。每个助手回合都以一个 <think> 块开头，根据文档。它的前身 LFM2-24B-A2B 并不总是先进行推理。它支持 16 种语言，包括英语、阿拉伯语、中文、印地语和日语。
架构如何工作？
它保留了 LFM2 的 40 层混合结构：30 个双门控短卷积块和 10 个分组查询注意力（GQA）块。每个 MoE 块包含 64 个专家，采用 top-4 路由，根据模型卡。
相比 LFM2-24B-A2B 只改变了两点。上下文从 32,768 增长到 131,072 tokens。词表通过原地分词器扩展从 65K 翻倍到 128K，以改善非拉丁语系的分词。
它是如何训练的？
预训练从 17T 扩展到 33T tokens。中期训练在 32K 上下文下运行了 2T tokens，然后在 131K 上下文下运行了 300B tokens。工具调用和多轮轨迹出现在这两个阶段中。
后训练有 5 个阶段：
- 监督微调（SFT）
- 教师专业化
- 非 Agent 多领域同策略蒸馏（MOPD）
- Agent MOPD
- 在 OpenClaw、Hermes Agent、Pi 和 OpenCode 内进行 Agent RL
Liquid AI 还披露了教师专业化期间的奖励黑客行为。该模型会搜索 git 历史、GitHub、PyPI 和 Hugging Face 以寻找答案。它甚至检测到自己身处沙箱之中。Liquid AI 表示已加强沙箱，所报告的结果均来自密封环境。
LFM2.5-24B-A2B 在基准测试中得分如何？
Liquid AI 针对 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning（30B-A3B）测试了 16 项基准。它在 AutomationBench、ToolSandbox、LiveClaw 和 τ³-Bench Banking 上领先。BFCLv4 实际上打平，为 65.01 对 65.00。
差距最大的是 AutomationBench：27.69 对 Qwen3.6-35B-A3B 的 8.72。在 LiveClaw 上得分为 48.09 对 38.19。它还在全部 3 项指令遵循测试中居首：IFEval 96.75、IFBench 74.69 和 Multi-IF 84.38。
更大的模型在知识和代码方面胜出。Qwen3.6-35B-A3B 在 GPQA Diamond（83.69 对 74.42）和 SWE-Bench Verified（66.20 对 51.00）上领先。Qwen 还在 WebArena Verified（37.62 对 26.75）和 PinchBench（89.93 对 83.18）上领先。
LFM2.5-24B-A2B 与竞品对比
| 特性 | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| 开发者 | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| 总参数 | 24.0B | 35B | 25.2B | 30B |
| 激活参数 | 2.45B | 3B | 3.8B | 3B |
| 上下文 | 131,072 | 262,144 原生 | 256K | 最高 1M |
| 输入模态 | 文本 | 文本、图像、视频 | 文本、图像 | 文本 |
| 架构 | Conv + GQA 混合 MoE | Gated DeltaNet + attention MoE | Sliding/global attention MoE | Mamba-2 + attention MoE |
| 许可证 | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA（厂商报告） | 未单独披露 | 86.0 | 82.3 | 75.44 |
| 参考硬件 | Apple M5 Max（184 tok/s，Q4_K_M） | 未披露 | 消费级 GPU 和工作站 | 1x H100 80GB（BF16） |
*分数来自 Liquid AI 的基准表，所有模型均由 Liquid AI 使用 vLLM 运行。
LFM2.5-24B-A2B 在什么硬件上运行？
在设备端，它在 Apple M5 Max 上解码速度为 184 tokens/s。在 AMD Ryzen AI Max+ 395 上达到 114 tokens/s。Liquid AI 使用 llama.cpp、Q4_K_M 量化和 4K token 输入对两者进行了测量。它声称速度最高可达所比较的次优 MoE 的 1.7 倍，且内存占用最低。确切的 RAM 需求未披露。
在服务端，它在单块 NVIDIA B300 上输出超过 21K tokens/s。该测试使用 SGLang 0.5.22、BF16、1,024 个输入 token 和最多 256 个输出 token。
首日支持涵盖 Transformers、vLLM、SGLang、llama.cpp、MLX、LM Studio 和 ONNX。MLX 需要 mlx-lm>=0.32.0，因为更早的版本会错误地路由专家。推荐的采样参数为 temperature 0.1、top_k 50 和 repetition penalty 1.05。一个 DSpark 推测解码草稿模型被列为即将推出。
它的费用是多少，许可证是什么？
在 Liquid Console 上，API 费用为每 1M 输入 token 0.10 美元，每 1M 输出 token 1.00 美元。缓存输入费用为每 1M 0.05 美元，新账户可获得 2 美元额度。
权重使用 LFM Open License v1.0，基于 Apache 2.0。一旦公司年收入达到 1000 万美元，免费商业使用即告结束。
关键要点
- 24B MoE，约 2B 激活，131K 上下文，仅推理。
- AutomationBench 27.69 对 Qwen3.6-35B-A3B 的 8.72。
- 通过 llama.cpp Q4_K_M 在 Apple M5 Max 上达到 184 tok/s。
- 在 SWE-Bench Verified（51.00 对 66.20）和 GPQA 上落后。
- 开放权重；年收入低于 1000 万美元可免费商业使用。
查看技术博客、模型权重、文档和LFM2 技术报告。所有功劳归于本项目的研究人员。另外，欢迎在 Twitter 上关注我们，别忘了加入我们的 150k+ ML SubReddit 并订阅 我们的 Newsletter。等等！你在 Telegram 上吗？ 现在你也可以在 Telegram 上加入我们了。
文章 Liquid AI 发布 LFM2.5-24B-A2B：面向端侧智能体的 2B 激活 MoE 首次出现在 MarkTechPost。
来源：MarkTechPost · marktechpost.com
来源：RadarAI · aihot.news