Baseten 发布基于 Gemma 4 的决策模型 bison-1 与 groundhog-1,登顶 Decision Index
Baseten 发布基于 Gemma 4 的决策模型 Bison-1 与 Groundhog-1,登顶 Decision Index
Baseten 发布两款开源权重决策模型 bison-1 和 groundhog-1,均基于 Google Gemma 4 训练,只返回校准概率而不生成文本。
MarkTechPost· Asif Razzaq·2026-11-21 12:01· 3 小时前AI 评分55
Baseten 发布 Bison-1 和 Groundhog-1,登顶决策模型指数
AI 导读
Baseten 发布开源权重决策模型 bison-1 和 groundhog-1,基于 Google 的 Gemma 4 训练,只返回校准概率而不生成文本。
正文 · 原文
Baseten 发布了 bison-1 和 groundhog-1,这是两个基于 Google Gemma 4 构建的开源权重决策模型。决策模型不撰写文本,而是针对是/否、选项和评分问题返回校准后的概率。Baseten bison-1 决策模型在 Artificial Analysis Decision Index v2.1 上得分为 76,在 19 个模型中排名第 1。两个模型都将上下文从 16k 提升至 128k tokens,并接受图像输入。对于路由、分诊和护栏流水线而言,这意味着可在一次调用中处理完整策略和历史记录。
TL;DR
- 规模:bison-1 为 31B 稠密模型。groundhog-1 为 26B MoE,约 4B 激活参数。两者均支持 128k tokens(131,072)。
- 运行平台:Baseten Model APIs,并在 Hugging Face 上提供开放 BF16 权重。未列出推理 GPU 或量化版本。据我们计算,仅 BF16 权重就约为 62 GB(bison-1)和 52 GB(groundhog-1)。
- 性能:bison-1 在 AA Decision Index v2.1 上得分为 76,比 Liquid AI 的 d1.2-ultra(75)高 1 分。
- 最佳:When2Call,98(排名第 1)。
- 最差:AA-Omniscience-Decision v1.1,60(排名第 11)。
- 总结:最佳:排名第一、校准最佳的决策(Brier 0.14),支持 128k tokens,每 100 万输入 tokens 收费 0.10 美元。最差:groundhog-1 尚无官方指数得分,且所有数字均为自报。
bison-1 和 groundhog-1 是什么?
bison-1 是 Baseten 推出的 31B 决策模型,通过对 Gemma 4 31B 进行后训练以返回校准概率。groundhog-1 是更便宜的同类模型。它微调了 Gemma 4 26B-A4B,这是一个混合专家模型,每个 token 约有 4B 激活参数。
两者加入 Baseten 现有产品线:mammoth-1(27B)、elephant-1(9B)和 joey-1(2B)。这 3 个模型基于 Qwen 骨干。新发布的两个模型是 Baseten 首批基于其所谓美国骨干的模型。
决策模型如何工作?
一个请求携带 1 个 state 和任意数量的 questions。状态为文本,可选带图像。每个问题都有类型:noul(是/否)、choice(命名选项)或 score(有序等级)。
模型在单次预填充过程中回答所有问题。它返回 P(yes),或带有 probabilities 字段的所选选项。不生成输出 tokens。Baseten 的早期发布文章将工单分诊、垃圾邮件检测、越狱护栏和 LLM 路由列为目标任务。
超过训练限制的请求会被拒绝,而非截断。假设静默截断的流水线将需要长度检查。
为什么 bison-1 校准更好?
Baseten 归功于两个来源:Gemma 基础模型和训练混合中更多的“软标签”。软标签使用概率目标而非 1 个固定正确答案。模型学会报告与其正确频率相符的不确定性。
结果是 Brier 分数为 0.14,为指数上最低。Baseten 将 d1.2-ultra 定为 0.15。越低越好。
bison-1 在基准测试中得分如何?
在 AA Decision Index v2.1 上,bison-1 得分为 76。Liquid AI 的 d1.2-ultra 得分为 75,mammoth-1 得分为 71。该指数混合了 6 项评估,其中 AA-Paperclip 权重最高,占 30%。
bison-1 模型卡逐项列出了各组成部分:
- When2Call:98(第 1 名)
- EvalSafe-O*NET-AA:93(第 1 名)
- AA-Symmetry v1.1:89(第 1 名)
- AA-Paperclip:73(第 2 名)
- HLE-MultiChoice v1.1:51(第 1 名)
- AA-Omniscience-Decision v1.1:60(第 11 名)
bison-1 在 6 个组成部分中的 4 个上排名第一。知识密集型决策是它的弱项。
在长上下文方面,Baseten 报告 bison-1 的 LongMemEval M(128k)为 84.8,groundhog-1 为 77.4。LongMemEval S 分别为 87.1 和 79.3。groundhog-1 尚无官方指数得分。Baseten 预计它将与 mammoth-1 持平。
它与其他决策模型相比如何?
| 特性 | bison-1 | groundhog-1 | mammoth-1 | Liquid d1.2-ultra |
|---|---|---|---|---|
| 总参数 | 31B 稠密 | 26B MoE | 27B | 未披露 |
| 激活参数 | 31B | ~4B | 27B | 未披露 |
| 骨干模型 | Gemma 4 31B | Gemma 4 26B-A4B | Qwen3.5-27B | 未披露 |
| 上下文 | 128k | 128k | 16k | 65,536 |
| 输入 | 文本、图像 | 文本、图像 | 文本、图像 | 文本、图像、音频 |
| 许可证 | MIT + Apache 2.0 | MIT + Apache 2.0 | MIT | 未披露 |
| 权重 | 开放(Hugging Face) | 开放(Hugging Face) | 开放(Hugging Face) | Liquid API(权重未披露) |
| AA Decision Index v2.1 | 76 | 尚未评分 | 71 | 75 |
| Brier 分数 | 0.14 | 未披露 | 未披露 | 0.15(据 Baseten) |
| LongMemEval M(128k) | 84.8 | 77.4 | 未披露 | 未披露 |
| 每 100 万输入 token 价格 | $0.10 | $0.035 | $0.10 | $0.042 |
开发者如何部署 bison-1 和 groundhog-1?
两个模型均已在 Baseten Model APIs 上线。它们使用与旧版决策模型相同的 API,因此切换只需更改 1 个模型名称。ID 分别为 decision-models/baseten-bison-latest 和 decision-models/baseten-groundhog-latest。
定价与旧版组合一致。bison-1 每 100 万 token 收费 $0.10,与 mammoth-1 相同。groundhog-1 收费 $0.035,与 elephant-1 相同。bison-1 库页面将其列为输入价格,因为不产生输出 token。
开放的 BF16 权重位于 Hugging Face。Baseten 未列出推理 GPU 或量化版本。训练方面,bison-1 使用了 192 块 B200 GPU,groundhog-1 使用了 128 块。
关键要点
- bison-1 以 76 分登顶 AA Decision Index v2.1,领先 d1.2-ultra 1 分。
- 上下文提升 8 倍至 128k,两个模型均支持图像输入。
- groundhog-1 以约 4B 激活参数运行,每 100 万 token 收费 $0.035。
- 软标签训练帮助将 bison-1 的 Brier 分数降至 0.14。
查看发布博文、bison-1 和 groundhog-1 模型卡,以及 Baseten 文档。你可以通过我们的 GPULeaderboard.com Chrome 扩展在此查看部署选项和规格。
另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 15 万+ 机器学习 SubReddit 并订阅我们的新闻简报。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等?联系我们
文章 Baseten 发布 Bison-1 与 Groundhog-1,登顶决策模型指数 首次发表于 MarkTechPost。
来源:MarkTechPost · marktechpost.com
所属事件
来源:RadarAI · aihot.news