跳到正文
RadarAI· MarkTechPost(RSS)·· 8 天前AI 评分60

Nace AI 开源 9B 决策模型 Drex 1.5,为选项打分而非生成文本

AI 导读

Nace AI 开源 9B 决策模型 Drex 1.5,读取状态和类型化问题后为每个选项输出概率,不生成文本。其在公开 Decision Index 0.3.1 上得分 58.08,与闭源模型 Jev 1.13.0(57.96)处于并列区间,权重已上架 Hugging Face,托管版在 OpenRouter 上按每 1M 输入 token 收费 $0.04、输出 $0。

正文 · AI 翻译

MarkTechPost· Asif Razzaq·2026-10-10 12:51· 3 小时前AI 评分56

Nace AI 开源 Drex 1.5:一个 9B 决策模型,为选项打分而非生成文本

AI 导读

Nace AI 开源 9B 决策模型 Drex 1.5,读取状态和类型化问题后为每个选项输出概率,不生成文本。其在公开 Decision Index 0.3.1 上得分 58.08,与闭源模型 Jev 1.13.0(57.96)处于并列区间,权重已上架 Hugging Face,托管版在 OpenRouter 上按每 1M 输入 token 收费 $0.04、输出 $0。

正文

Nace.AI 已开源 Drex 1.5,这是一个面向智能体和后端工作流的 9B 决策模型。Drex 1.5 决策模型不生成文本。它读取一个状态和类型化问题,然后为每个选项返回一个概率。Nace 报告其在公开的Decision Index 0.3.1 上得分为 58.08,是 10B 参数以下最高分。权重已上架 Hugging Face,托管版已在 OpenRouter 上线。

TL;DR

  • 规模:8.95B 参数(稠密),bf16 权重约 18 GB。上下文默认 16,384 token,最高 131,072。
  • 运行环境:1 块 CUDA GPU 以 bf16 运行(在 24 GB A10G 上测试)。Q8_0 GGUF(约 9.5 GB)可在 Apple 芯片和 CPU 上运行。
  • 性能:在 Decision Index 0.3.1(公开)上得分 58.08,处于 Jev 1.13.0(57.96)的并列区间内。
  • 最佳:在 32K 至 128K token 文档上准确率 93.4%。
  • 最差:在 ACOS 方面情感上每评论 F1 为 7.4%,而 Jev 为 29.5%。
  • Bottom line:
    • 最佳:开放权重在 1 块 GPU 上匹敌闭源模型。
    • 最差:在广泛知识和细粒度情感上表现较弱。

Drex 1.5 是什么?

Drex 1.5 是 Nace.AI 的决策模型,可在 1 次前向传播中为一组固定选项打分。你发送一个 state(文本或 JSON)和命名问题。它支持 3 种问题类型:choice、noul(是/否)和有序 score。不采样 token,因此 temperature 和 top_p 不适用。该模型只能在你提供的选项范围内作答。

它服务于 POST /v1/systemone API。这与开创该品类的闭源模型 TypeSafe 的 Jev 使用相同的请求格式。Nace 表示,现有 Jev 客户端只需更改几个环境变量即可使用。

Drex 1.5 如何工作?

主干是 MiMo-V2.6-Distill-Qwen-9B,一个蒸馏的 Qwen 3.5 9B 模型。它有 32 层,采用混合注意力:每 1 层全注意力搭配 3 层线性注意力。一个独立的指针头(head.pt)根据主干的隐藏状态为每个选项打分。

每个问题对状态加该问题运行 1 次前向传播。在 llama.cpp 中,状态编码一次并在各问题间共享。Nace 的Drex 页面称,该模型在索引基准的官方训练划分上训练。它仅在留出划分上评估。

Drex 1.5 在基准测试上表现如何?

在公开的 Decision Index 0.3.1(37 个基准,机会校正)上,模型卡报告:

  • Drex 1.5:58.08
  • Jev 1.13.0:57.96
  • Bespoke Nimble 9B v3:57.19
  • Cloudflare clef-flash:56.15

Drex 1.5、Jev 和 Nimble 均处于该榜单 0.9 分的并列区间内。Drex 在 37 个基准中的 20 个上领先 Jev。Drex 的分数来自 Nace 自己对官方套件的运行。其领域分数在工具(75.0)上最强,在知识与推理(44.6)上最弱。Nace 的发布图表使用的是较旧的 Decision Index 0.2.1,其中 Drex 得分为 58.28,Jev 为 57.91。

在 JevBench(231 个公开项目)上,Drex 得分 86.2%,Jev 为 87.0%。两者在困难项目上均达到 73.9%。在 8 款 OpenSpiel 游戏的一对一对决中,Drex 对 Jev 取得 122 胜、47 平、87 负(56.8%)。

长文档是明显优势:

  • 8K 至 32K tokens:准确率 89.5%,中位数 0.65 秒
  • 32K 至 128K tokens:准确率 93.4%,中位数 2.0 秒

将相同请求截断至 8K tokens 后,准确率降至 76.5% 和 78%。

开发者如何运行 Drex 1.5?

共有 4 种部署路径,均提供相同的 API:

  • Python(Kev 运行时):在 CUDA GPU 上使用 inference.py 和 serve.py。
  • llama.cpp:一个 Nace fork,支持 bf16 或 Q8_0 的 GGUF,可在 CUDA、Metal 或 CPU 上运行。
  • Ollama:一个 Nace fork,新增了 decision 能力。
  • 托管:OpenRouter 标价为每 100 万输入 tokens 0.04 美元、输出 0 美元,由 DeepInfra 提供服务。Nace 也运行自己的 Console API。

Nace 在 AWS g5.2xlarge(A10G 24 GB)上测试了 bf16 和 Q8_0,得到完全相同的答案。Q8_0 GGUF 在 Apple M5 Pro 上的 Metal 和 CPU 上也表现一致。

一个 Drex agent skill 可将该模型接入 Claude Code、Codex、Cursor、OpenCode、Hermes Agent、Gemini CLI 和 GitHub Copilot。Nace 的 发布帖还为云用户提供 25 美元的注册奖励。

Drex 1.5 与其他决策模型相比如何?

特性Drex 1.5Jev 1.13.0Bespoke Nimble 9B v3
开发者Nace.AITypeSafe AIBespoke Labs
参数量8.95B未披露基于 Qwen3.5-9B 的 LoRA
权重开放闭源(仅 API)开放(适配器)
许可证Nace.AI Open RAIL-M专有CC BY-NC 4.0
上下文默认 16,384,最高 131,072每请求 64K,32K 状态加最长问题未披露
Decision Index 0.3.1(公开)58.0857.9657.19
Decision Index 0.2.158.2857.9156.88
JevBench(231 项)86.2%87.0%未披露
本地硬件1 块 CUDA GPU(bf16),Apple silicon 或 CPU(Q8_0)不适用Qwen3.5-9B 基础模型加适配器
API 价格(每 100 万输入 / 输出)$0.04 / $0(OpenRouter)$0.042 / $0未披露

Decision Index 0.3.1 各行来自 Drex 1.5 模型卡,其中引用了 Jev 和 Nimble 的公开排行榜。Nimble 的 0.2.1 分数来自其自己的模型卡。

有哪些局限?

Drex 1.5 是决策层,不是通用模型。它无法生成文本、代码或解释。知识密集型测试是它的弱项:GPQA Diamond 上为 45.4%,而 Jev 为 78.6%;MMLU-Pro 上为 58.7%,而 Jev 为 82.7%。

在索引基准的训练集上训练,有助于它在熟悉的决策类型上表现更好。在新领域的结果可能不同。通过 Ollama 和 llama.cpp 进行本地部署需要 Nace 的 fork,而非主线构建。权重使用带使用限制的 RAIL-M 许可证,因此商业使用前请检查条款。

关键要点

  • Drex 1.5 是一个 9B 开放决策模型,可在 1 次推理中对选项评分。
  • 它在 Decision Index 0.3.1 上得分为 58.08,与闭源的 Jev 1.13.0 持平。
  • 长文档准确率在 32K 至 128K tokens 时达到 93.4%。
  • 它可在 1 块 GPU 上运行,或在 Mac 上作为 9.5 GB 的 Q8_0 GGUF 运行。
  • 弱项:GPQA Diamond(45.4%)和 ACOS 情感分析(7.4%)。

查看 Hugging Face 上的模型权重、GitHub 仓库 以及 Drex 产品页面。所有功劳都归功于本项目的研究人员。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ 机器学习 SubReddit 并订阅 我们的新闻通讯。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们了。

文章 Nace AI 开源 Drex 1.5:一个为选项而非文本打分的 9B 决策模型 首次发布于 MarkTechPost。

来源:MarkTechPost · marktechpost.com

来源:RadarAI · aihot.news