JetBrains 发布 Mellum2.1：面向编码 Agent 的 12B MoE 开源模型

MarkTechPost· Asif Razzaq·2026-10-09 00:17· 43 分钟前AI 评分62

JetBrains 发布 Mellum2.1：面向编码 Agent 的 12B MoE 开源模型

AI 导读

JetBrains 发布面向编码 Agent 的开源思考模型 Mellum2.1（checkpoint 为 Mellum2.1-12B-A2.5B-Thinking），总参数 12B、每 token 激活 2.5B，以 Apache 2.0 协议上架 Hugging Face。

正文

JetBrains 发布了 Mellum2.1，这是一个为编码 Agent 和快速子 Agent 打造的开源模型。Mellum2.1 是 JetBrains 推出的 12B 混合专家（MoE）思考模型，每个 token 激活 2.5B 参数。它以 Apache 2.0 协议在 Hugging Face 上发布。其架构与 Mellum2 保持不变。此次升级几乎完全来自真实软件环境中的强化学习（RL）。最终成果是一个小巧、可自托管的模型，能够探索代码仓库、编辑文件并检查自己的改动。

TL;DR

• 规模：总计 12B，激活 2.5B（64 个专家，激活 8 个），131,072 token 上下文
• 运行于：通过 vLLM 或 SGLang 在你自己的 GPU 上运行（速度在 1 块 NVIDIA H200 上测试）。GGUF 构建版本从 7.0 GB 起，适用于 llama.cpp、Ollama 和 LM Studio。
• 性能：在列出的 17 项基准测试中，有 15 项击败 Mellum2；在对阵 Qwen3.5-9B 的 17 项中赢下 5 项
• 最佳：LiveCodeBench v6 上得分 82.0，领先 Qwen3.5-9B（75.4）和 Gemma 4 E4B（69.4）
• 最差：Terminal-Bench 2.1 上得分 17.4，低于 Qwen3.5-9B（21.7）
• 结论（最佳方面）：仅凭 2.5B 激活参数就取得强劲的编码分数和高吞吐量。
• 结论（最差方面）：在困难的 Agent 软件任务和知识方面仍落后于 Qwen3.5-9B。

Mellum2.1 是什么？

Mellum2.1 是 Mellum2 Thinking 的下一个版本，JetBrains 于 2026 年 6 月将其开源。发布的 checkpoint 为 Mellum2.1-12B-A2.5B-Thinking。这是一个推理模型，会在回答前输出其思维链。JetBrains 瞄准 3 种用途：Agent 工作器、通用推理助手和私有自托管部署。

Mellum2.1 的架构如何工作？

该模型有 28 层和 64 个专家。路由器为每个 token 激活 8 个专家。注意力机制采用分组查询注意力，具有 32 个查询头和 4 个 KV 头。每 4 层中有 3 层使用 1,024 token 的滑动窗口。上下文长度为 131,072 token，词表包含 98,304 个 token。权重以 bfloat16 格式发布。

Mellum2.1 是如何训练的？

几乎所有新工作都投入到了后训练中。RL 从短暂的最终阶段转变为训练的主要部分。JetBrains 增加了数学、竞技编程、科学、工具使用和软件工程方面的 RL 任务。它过滤了开放 RL 数据集中的损坏测试、无法验证的答案以及过于简单或不可能完成的任务。在软件工程方面，模型在真实代码仓库中使用 shell 和文件编辑工具进行训练。当测试通过时，它会获得奖励。训练在数千个环境中启动了数百万个沙箱。

Mellum2.1 在基准测试中表现如何？

JetBrains 在思考模式下用同一套流程评估了 Mellum2.1、Mellum2、Qwen3.5-9B 和 Gemma 4 E4B。所有分数均由 JetBrains 自行报告。

提升最大的是 Agent 编码。SWE-bench Verified 从 2.0 升至 47.0。SWE-bench Pro 从 0.0 升至 28.0。Terminal-Bench 2.1 从 0.6 升至 17.4。Agent 运行使用了开源 Pi v0.73.1 测试框架，上下文为 114K token。

Mellum2.1 在 LiveCodeBench v6（82.0）、HumanEval+（91.5）、MBPP+（79.4）和 BFCL v4（62.3）上领先该组。Qwen3.5-9B 仍在 SWE-bench Verified（50.0）、SWE-bench Pro（38.0）、AIME 25/26（86.7）和 GPQA Diamond（77.8）上领先。安全性也有所提升：HarmBench 从 21.5 降至 8.5，数值越低越好。

评估流程也很重要。Qwen 自己的模型卡在 LiveCodeBench v6 上列出 65.6，在 GPQA Diamond 上列出 81.7。JetBrains 对同一模型测得 75.4 和 77.8。

Mellum2.1 有多快？

后训练未改动架构，因此速度与 Mellum2 一致。在 1 块 H200 上、高负载下，JetBrains 称 Mellum2.1 的 token 吞吐量几乎是 Qwen3.5-9B 的 2 倍。对于单个请求，多 token 预测（MTP）使其速度提升约 1.6 倍。用于 vLLM 投机解码的 MTP 头被列为即将推出。

如何在本地运行 Mellum2.1？

完整模型通过 vLLM 配合 --reasoning-parser qwen3 提供服务。工具调用需添加 --enable-auto-tool-choice --tool-call-parser hermes。JetBrains 推荐 temperature 0.6、top_p 0.95 和 top_k 20。

JetBrains 的发布说明提到 GGUF 构建正在进行中。一个 GGUF 仓库 已列出 5 个文件：

• BF16： 24.3 GB（参考）
• Q8_0： 12.9 GB，96.1% 最高 token 匹配
• Q6_K： 10.9 GB，93.9% 最高 token 匹配
• Q4_K_M： 8.1 GB，88.0% 最高 token 匹配（推荐）
• MXFP4_MOE： 7.0 GB，85.6% 最高 token 匹配

Mellum2.1 vs Qwen3.5-9B vs Gemma 4 E4B

*基准行：JetBrains 共享评估流程，思考模式，来自 Mellum2.1 模型卡。厂商自己的模型卡对 Qwen3.5-9B 和 Gemma 4 E4B 报告了不同的数字。

关键要点

• Mellum2.1 是一个 12B MoE 思考模型，具有 2.5B 激活参数，采用 Apache 2.0 许可。
• 在真实仓库中的 RL 将 SWE-bench Verified 从 2.0 提升至 47.0。
• 它在受测组中于 LiveCodeBench v6（82.0）和 BFCL v4（62.3）上领先。
• Qwen3.5-9B 仍在 SWE-bench Pro、GPQA Diamond 和 AIME 上胜出。
• 7.0 GB 至 8.1 GB 的 GGUF 使本地编码子代理变得实用。

查看 模型权重、GGUF 构建、 技术博客 以及 Mellum2 技术报告。所有功劳归于该项目的研究者。另外，欢迎在 Twitter 上关注我们，别忘了加入我们的 150k+ ML SubReddit 并订阅 我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们了。

文章 JetBrains Releases Mellum2.1: A 12B MoE Open Model for Coding Agents 首次发表于 MarkTechPost。

来源：MarkTechPost · marktechpost.com