Nace AI 开源 27B 决策模型 Drex Max v1，可在 Apple Silicon 本地运行
Nace AI 以 Nace.AI Open RAIL-M 许可开源决策模型 Drex Max v1，权重含 bf16、Q8_0 GGUF 与 affine Q4 检查点，并提供 llama.cpp 和 Ollama fork。
MarkTechPost· Asif Razzaq·2026-11-01 16:10· 33 分钟前AI 评分53
Nace AI 开源 Drex Max v1：一款可在 Apple Silicon 上本地运行的 27B 决策模型
AI 导读
Nace AI 以 Nace.AI Open RAIL-M 许可开源其决策模型 Drex Max v1，权重含 bf16、Q8_0 GGUF 与 affine Q4 检查点，并提供 llama.cpp 和 Ollama fork。
正文 · 原文
Nace AI 已发布 Drex Max v1 开放权重。Drex Max 是其能力最强的决策模型，现在可在你自己的硬件上运行。此次发布包含 bf16 权重、Q8_0 GGUF、affine Q4 检查点，以及 llama.cpp 和 Ollama 的 fork。对开发者而言，Drex Max 开放权重意味着路由、分类和政策检查都可以留在本地机器上。
TL;DR
- 规模：稠密 27B 参数，262,144 token 窗口（默认 16,384），每题最多 255 个选项。
- 运行于：配备 Python 的 NVIDIA GPU（H100 bf16，或 8 位下的 L40S 48 GB）。配备 24 GB+（affine Q4）或 48 GB（Q8_0 GGUF）的 Apple Silicon Mac。通过 llama.cpp 和 Ollama 在 CPU 上运行。
- 性能：在公开的 Decision Index 0.4 上得 67.52，领先 Drex v2.0 6.27 分（自报数据）。
- 最佳表现：InfographicVQA 技能 97.3。Tools 领域达 81.9。一款现在就能在 Mac 上离线运行的顶级决策模型。
什么是 Drex Max？
Drex Max 是 Nace.AI 的决策模型，针对给定上下文回答带类型的问题。你传入一个状态（文本、JSON 或图像）以及具名问题。模型在一次前向传播中为每个选项返回概率。不生成任何内容。
问题分 3 种类型：在具名选项中选择、是/否，以及序数评分。这使其适合智能体路由、工单分诊和护栏检查。托管版本定位用于路由、分类和政策检查。
Drex Max 如何工作？
模型卡描述了一个 64 层的稠密 27B 主干。其中 48 层是从左到右运行的 Gated DeltaNet 线性注意力层。另外 16 层是全注意力层，每四层放置一层，且为非因果的。每个 token 都能关注整个序列。
图像经过原生视觉塔处理，并在一次请求中对每个问题可见。随后一个 255 路读出头将最后隐藏状态转换为选项概率。配置列出的模型类型为 qwen3_5，窗口为 262,144 个位置。
Drex Max 在基准测试上表现如何？
以下所有数据均由 Nace AI 自报，
- Decision Index 0.4（公开文本）：67.52。Drex v2.0 得 61.25，Jev 1.13.0 得 57.96。
- 领域技能：Tools 81.9、Language 72.2、Retrieval 68.8、Knowledge and Reasoning 57.1、Arts 53.4。
- 公开视觉指数：在 11 个基准和 12,210 行上为 73.92。
- Artificial Analysis Decision Index：64，Nace 称其在 18 个中排名第 4。
- JevBench：92.2%（213/231）。Decision Bench v4：94.30%（1010/1071）。
结果数据集覆盖 140,620 个请求。未回答的请求计为错误。
如何在本地运行 Drex Max？
Nace 记录了 5 种运行时。它们都提供相同的 POST /v1/systemone API。
| 运行时 | 硬件 | 检查点 | 图像 |
| Python | NVIDIA GPU | bf16（约 49 GB）或 8 位（约 26 GB） | 是 |
| llama.cpp fork | Apple Metal、CPU | Q8_0 GGUF（27.25 GB） | 否 |
| Ollama fork | Apple Metal、CPU | Q8_0 GGUF | 否 |
| Kapitsa v0.2.25+ | Apple Silicon | Q8_0 GGUF 或 affine Q4 | 否 |
| MLX | Apple Silicon | affine Q4（14.45 GB） | 否 |
affine Q4 checkpoint 面向 24 GB 及以上的 Mac。Q8_0 GGUF 需要 48 GB。在 48 GB 的 Mac 上，Nace 建议 Kapitsa 使用 –context 2048。
Ollama 用户设置 num_gpu 40 可将 40 层卸载到 Metal。设置 num_gpu 0 则在 CPU 上运行。Ollama fork 需要在 Modelfile 中有一行 CAPABILITY 决策。
量化在 Nace 的测试中表现稳定。在 48 GB 的 Apple M5 Pro 上，Q8_0 GGUF 与 H100 bf16 的每个概率差异在 0.02 以内。affine Q4 与 Q8_0 的差异保持在 0.0329 以内，且没有选择翻转。
Drex Max 与其他决策模型对比
| Drex Max v1 | Drex v2.0 | Drex v1.5 | Jev 1.13.0 | |
| 参数 | 27B dense | 35B MoE，约 3B 激活 | 9B | 未公布 |
| 最大上下文 | 262,144 | 131,072 | 131,072 | 未披露 |
| 输入 | 文本、JSON、图像 | 文本（视觉塔已移除） | 文本 | 未披露 |
| 权重 | 开放，Nace.AI Open RAIL-M | 开放，Nace.AI Open RAIL-M | 开放，Nace.AI Open RAIL-M | 闭源，托管 |
| 最小本地文件 | Affine Q4，24 GB+ Mac | Q8_0，36.9 GB | Q8_0，约 9.5 GB | 不适用 |
| 公开 Decision Index | 67.52（v0.4） | 61.25（v0.3.1） | 58.08（v0.3.1） | 57.96 |
| JevBench | 92.2% | 85.7% | 未披露 | 86.6% |
| AA Decision Index | 64 | 58 | 未列出 | 58 |
| 托管价格 | $0.03 / 1K 次决策（发布价） | $0.06 / 1K 次决策 | $0.04 / 1K 次决策 | $42 / 1M 任务 |
Nace AI 团队表示，Decision Index 0.4 使用与 0.3.1 相同的公开测试套件。
关键要点
- Drex Max v1 权重现已在 Nace.AI Open RAIL-M 下公开。
- 它在 Decision Index 0.4 上得分为 67.52，高于 Drex v2.0（61.25）。
- 4-bit 版本可通过 Kapitsa 或 MLX 在 24 GB Apple Silicon Mac 上运行。
- M5 Pro 上的 Q8_0 与 H100 bf16 的差异在 0.02 以内。
- 本地 Mac 和 CPU 路径目前仅支持文本。
查看 模型权重、Q8_0 GGUF、代码和文档、推文 和 云控制台。
感谢 Nace AI 团队为本文提供思想领导力/资源。本文由 Nace AI 赞助。
文章 Nace AI 开源 Drex Max v1：一款可在 Apple Silicon 上本地运行的 27B 决策模型 首次发布于 MarkTechPost。
来源：MarkTechPost · marktechpost.com
来源：RadarAI · aihot.news