跳到正文
RadarAI· X:Rohan Paul (@rohanpaul_ai)·· 21 小时前AI 评分38

NaceAI 发布 Drex Router:57-87ms 为每次 LLM 调用选模型

AI 导读

NaceAI 发布小型路由模型 Drex Router,读取提示词和候选模型列表后约 57 到 87 ms 返回选择,基于 Gemma 的 12B 模型构建。在 1,400 道常识考题测试中准确率 87.6%,价格为每 1,000 题 $0.10,对比 Jev Router 为 86.4%、$1.09。它还会为每个候选模型返回概率和简短理由,而不只返回模型名。

正文 · AI 翻译

Rohan Paul· @rohanpaul_ai · X·2026-11-21 05:48· 42 分钟前AI 评分54

AI 导读

@NaceAI 发布 Drex Router,一个小型路由模型,读取提示词和模型列表后约 57 到 87 ms 返回选择,基于 Gemma 的 12B 模型构建。在 1,400 道常识考题测试中准确率 87.6%,价格为每 1,000 题 $0.10;对比的 Jev Router 为 86.4%、$1.09。它还会为每个候选模型返回概率和简短理由,而不只返回模型名。

正文 · 原文

不到 90 ms 的模型决策速度,快到足以把路由器放在几乎任何 LLM 调用之前。

@NaceAI 刚刚发布了 Drex Router,它会读取提示词和你的模型列表,然后在大约 57 到 87 ms 内返回它的选择,使用的是基于 Gemma 构建的 12B 模型。

在 Nace 对 1,400 道常识考题的测试中,它得分 87.6%,每 1,000 题 $0.10,而竞争对手 Jev Router 得分 86.4%,价格为 $1.09。

只返回模型名的路由器无法告诉你这是有把握的选择还是抛硬币。Drex Router 会为每个候选模型返回概率,并附上简短理由,

引用Nace AI@NaceAI

隆重推出 Drex Router。

一个小型模型,能为你的智能体每一步选择正确的 LLM/SLM 和推理强度。

准确率:Drex Router 87.6% 对比 Jev Router 的 86.4%

试用:console.nace.ai

评论 DREX 即可额外获得 $5 API 额度

在 X 查看被引用的帖子

来源:Rohan Paul · x.com

来源:RadarAI · aihot.news