跳到正文
RadarAI· MarkTechPost(RSS)·· 15 小时前AI 评分58

Baseten 发布基于 Gemma 4 的决策模型 bison-1 与 groundhog-1,登顶 Decision Index

Baseten 发布基于 Gemma 4 的决策模型 Bison-1 与 Groundhog-1,登顶 Decision Index

AI 导读

Baseten 发布两款开源权重决策模型 bison-1 和 groundhog-1,均基于 Google Gemma 4 训练,只返回校准概率而不生成文本。

正文 · AI 翻译

MarkTechPost· Asif Razzaq·2026-11-21 12:01· 3 小时前AI 评分55

Baseten 发布 Bison-1 和 Groundhog-1,登顶决策模型指数

AI 导读

Baseten 发布开源权重决策模型 bison-1 和 groundhog-1,基于 Google 的 Gemma 4 训练,只返回校准概率而不生成文本。

正文 · 原文

Baseten 发布了 bison-1 和 groundhog-1,这是两个基于 Google Gemma 4 构建的开源权重决策模型。决策模型不撰写文本,而是针对是/否、选项和评分问题返回校准后的概率。Baseten bison-1 决策模型在 Artificial Analysis Decision Index v2.1 上得分为 76,在 19 个模型中排名第 1。两个模型都将上下文从 16k 提升至 128k tokens,并接受图像输入。对于路由、分诊和护栏流水线而言,这意味着可在一次调用中处理完整策略和历史记录。

TL;DR

  • 规模:bison-1 为 31B 稠密模型。groundhog-1 为 26B MoE,约 4B 激活参数。两者均支持 128k tokens(131,072)。
  • 运行平台:Baseten Model APIs,并在 Hugging Face 上提供开放 BF16 权重。未列出推理 GPU 或量化版本。据我们计算,仅 BF16 权重就约为 62 GB(bison-1)和 52 GB(groundhog-1)。
  • 性能:bison-1 在 AA Decision Index v2.1 上得分为 76,比 Liquid AI 的 d1.2-ultra(75)高 1 分。
  • 最佳:When2Call,98(排名第 1)。
  • 最差:AA-Omniscience-Decision v1.1,60(排名第 11)。
  • 总结:最佳:排名第一、校准最佳的决策(Brier 0.14),支持 128k tokens,每 100 万输入 tokens 收费 0.10 美元。最差:groundhog-1 尚无官方指数得分,且所有数字均为自报。

bison-1 和 groundhog-1 是什么?

bison-1 是 Baseten 推出的 31B 决策模型,通过对 Gemma 4 31B 进行后训练以返回校准概率。groundhog-1 是更便宜的同类模型。它微调了 Gemma 4 26B-A4B,这是一个混合专家模型,每个 token 约有 4B 激活参数。

两者加入 Baseten 现有产品线:mammoth-1(27B)、elephant-1(9B)和 joey-1(2B)。这 3 个模型基于 Qwen 骨干。新发布的两个模型是 Baseten 首批基于其所谓美国骨干的模型。

决策模型如何工作?

一个请求携带 1 个 state 和任意数量的 questions。状态为文本,可选带图像。每个问题都有类型:noul(是/否)、choice(命名选项)或 score(有序等级)。

模型在单次预填充过程中回答所有问题。它返回 P(yes),或带有 probabilities 字段的所选选项。不生成输出 tokens。Baseten 的早期发布文章将工单分诊、垃圾邮件检测、越狱护栏和 LLM 路由列为目标任务。

超过训练限制的请求会被拒绝,而非截断。假设静默截断的流水线将需要长度检查。

为什么 bison-1 校准更好?

Baseten 归功于两个来源:Gemma 基础模型和训练混合中更多的“软标签”。软标签使用概率目标而非 1 个固定正确答案。模型学会报告与其正确频率相符的不确定性。

结果是 Brier 分数为 0.14,为指数上最低。Baseten 将 d1.2-ultra 定为 0.15。越低越好。

bison-1 在基准测试中得分如何?

在 AA Decision Index v2.1 上,bison-1 得分为 76。Liquid AI 的 d1.2-ultra 得分为 75,mammoth-1 得分为 71。该指数混合了 6 项评估,其中 AA-Paperclip 权重最高,占 30%。

bison-1 模型卡逐项列出了各组成部分:

  • When2Call:98(第 1 名)
  • EvalSafe-O*NET-AA:93(第 1 名)
  • AA-Symmetry v1.1:89(第 1 名)
  • AA-Paperclip:73(第 2 名)
  • HLE-MultiChoice v1.1:51(第 1 名)
  • AA-Omniscience-Decision v1.1:60(第 11 名)

bison-1 在 6 个组成部分中的 4 个上排名第一。知识密集型决策是它的弱项。

在长上下文方面,Baseten 报告 bison-1 的 LongMemEval M(128k)为 84.8,groundhog-1 为 77.4。LongMemEval S 分别为 87.1 和 79.3。groundhog-1 尚无官方指数得分。Baseten 预计它将与 mammoth-1 持平。

它与其他决策模型相比如何?

特性bison-1groundhog-1mammoth-1Liquid d1.2-ultra
总参数31B 稠密26B MoE27B未披露
激活参数31B~4B27B未披露
骨干模型Gemma 4 31BGemma 4 26B-A4BQwen3.5-27B未披露
上下文128k128k16k65,536
输入文本、图像文本、图像文本、图像文本、图像、音频
许可证MIT + Apache 2.0MIT + Apache 2.0MIT未披露
权重开放(Hugging Face)开放(Hugging Face)开放(Hugging Face)Liquid API(权重未披露)
AA Decision Index v2.176尚未评分7175
Brier 分数0.14未披露未披露0.15(据 Baseten)
LongMemEval M(128k)84.877.4未披露未披露
每 100 万输入 token 价格$0.10$0.035$0.10$0.042

开发者如何部署 bison-1 和 groundhog-1?

两个模型均已在 Baseten Model APIs 上线。它们使用与旧版决策模型相同的 API,因此切换只需更改 1 个模型名称。ID 分别为 decision-models/baseten-bison-latest 和 decision-models/baseten-groundhog-latest。

定价与旧版组合一致。bison-1 每 100 万 token 收费 $0.10,与 mammoth-1 相同。groundhog-1 收费 $0.035,与 elephant-1 相同。bison-1 库页面将其列为输入价格,因为不产生输出 token。

开放的 BF16 权重位于 Hugging Face。Baseten 未列出推理 GPU 或量化版本。训练方面,bison-1 使用了 192 块 B200 GPU,groundhog-1 使用了 128 块。

关键要点

  • bison-1 以 76 分登顶 AA Decision Index v2.1,领先 d1.2-ultra 1 分。
  • 上下文提升 8 倍至 128k,两个模型均支持图像输入。
  • groundhog-1 以约 4B 激活参数运行,每 100 万 token 收费 $0.035。
  • 软标签训练帮助将 bison-1 的 Brier 分数降至 0.14。

查看发布博文、bison-1 和 groundhog-1 模型卡,以及 Baseten 文档。你可以通过我们的 GPULeaderboard.com Chrome 扩展在此查看部署选项和规格。

另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 15 万+ 机器学习 SubReddit 并订阅我们的新闻简报。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等?联系我们

文章 Baseten 发布 Bison-1 与 Groundhog-1,登顶决策模型指数 首次发表于 MarkTechPost。

来源:MarkTechPost · marktechpost.com

所属事件

查看事件全部Baseten发布bison-1与groundhog-1决策模型

来源:RadarAI · aihot.news