跳到正文
RadarAI· MarkTechPost(RSS)·· 4 小时前AI 评分58

webAI 发布 8.79B 推理模型 TwIL-8B,MATH-500 得分 98.2

webAI 发布 8.8B 推理模型 TwIL-8B,MATH-500 得分 98.2

AI 导读

webAI 发布稠密推理模型 TwIL-8B,参数量 8.79B,基于 IBM Granite 4.2 8B 后训练,权重以非商业许可上线 Hugging Face。

正文 · AI 翻译

MarkTechPost· Asif Razzaq·2026-11-05 06:25· 2 小时前AI 评分53

webAI 发布 TwIL-8B,一款在 MATH-500 上得分 98.2 的 8.8B 推理模型

AI 导读

webAI 发布 8.79B 稠密推理模型 TwIL-8B,基于 IBM Granite 4.2 8B 后训练,权重以非商业许可上线 Hugging Face。

正文 · 原文

webAI 发布了 TwIL-8B,这是一款面向数学、代码和指令遵循的 8.8B 推理模型。TwIL-8B 推理模型基于 IBM 的 Granite 4.2 8B 进行后训练。权重以非商业许可发布于 Hugging Face。webAI 的发布博文将卖点围绕每任务成本而非原始规模展开。4-bit 版本为 4.98 GiB,适合 CPU 或显存有限的 GPU 推理。

TL;DR

  • 规模:8.79B 参数,稠密。131,072 token 上下文,继承自基础模型。
  • 运行于:通过 4.98 GiB 的 Q4_K_M GGUF 在 CPU 或显存有限的 GPU 上运行。完整 bf16 权重为 16.38 GiB。
  • 性能:在数学和代码上领先同规模级别,在知识基准上落后。
  • 最佳:MATH-500 达 98.2,为 webAI 对比中的最高分。
  • 最差:GPQA Diamond 为 70.2,落后 Qwen3.5-9B 11.5 分。HLE 为 12.6(verbose 变体)。

什么是 TwIL-8B?

TwIL-8B 是 webAI 推出的一款稠密仅解码器推理模型。它具有 40 层、隐藏维度 4096、32 个注意力头与 8 个 KV 头。输入和输出仅支持英文文本。模型在每次回答前会写一个 <think> 块。

它提供 2 个变体,架构和分词器相同。Balanced 为默认版本,生成更短的推理轨迹。Verbose 推理更长,面向高难度竞赛风格问题。

TwIL-8B 扩展了 webAI 的 TwIL 系列。首批成员是 2026 年 8 月发布的 1.7B 和 3B 形式逻辑模型。

TwIL-8B 是如何训练的?

webAI 使用了 3 个后训练阶段:

  1. 全参数 SFT,基于数学、STEM 和指令遵循的推理轨迹。
  2. GRPO/DAPO 强化学习,基于数学、代码、STEM 和指令提示。这产生了 verbose 变体。
  3. 长度感知 RL,其奖励倾向于更短的轨迹,并对照各领域的长度参考。这产生了 balanced 变体。

训练池通过 13-gram 匹配针对 AIME、HMMT、MATH-500、GPQA 及其他评测进行了去污染。

TwIL-8B 在基准测试上表现如何?

所有 TwIL-8B 分数均为自报,启用思考的高投入 pass@1。标有 † 的分数仅在 verbose 变体上测得。

  • 数学:TwIL-8B 在 MATH-500 上得 98.2。Qwen3.5-9B 在第三方排行榜上列出 96.6。Gemma 4 31B 在Red Hat 的 lighteval 运行中得 87.9。在 AIME 2025 上,TwIL-8B 得 88.3,Gemma 4 31B 为 87.1。在 AIME 2026 上得 88.3,落后于Qwen3.5-9B 的 92.5和Gemma 4 31B 的 89.2。
  • 代码:LiveCodeBench† 为 81.6,对比Qwen3.5-9B 的 65.6和 Gemma 4 31B 的 80.0。webAI 指出其 LiveCodeBench 版本未记录。竞品分数为 v6。
  • 指令遵循:IFBench† 为 74.4,比 Qwen3.5-9B 的 64.5 高 9.9 分。IFEval 持平,为 91.8 对 91.5。
  • 知识:这是薄弱环节。GPQA Diamond 为 70.2,而 Qwen3.5-9B 为 81.7,Gemma 4 31B 为 84.3。MMLU-Pro† 为 76.5,而 Qwen3.5-9B 为 82.5。

在 13 个共同基准上,TwIL-8B 对 Qwen3.5-9B 的战绩为 7 胜 6 负。对约为其 3.5 倍大小的 Gemma 4 31B,战绩为 3 胜 11 负。

TwIL-8B 使用的推理 token 更少吗?

是的,相比其最接近的开源同级模型。在 AIME 2026 上,TwIL-8B 平均每道题输出约 19.5k token。Qwen3.5-9B 使用 31.2k,因此 TwIL-8B 少用 38%。其得分低 4.2 分。在 HMMT Feb 2026 上,差距为 32.9k 对 40.6k,即少用 19%。

前沿模型仍然精简得多。webAI 称 GPT-5.5 在 AIME 2026 每道题约使用 5k token。webAI 表示 harness 和 tokenizer 各不相同,因此应将其视为方向性参考。

TwIL-8B vs Qwen3.5-9B vs Gemma 4

指标TwIL-8BQwen3.5-9BGemma 4 12BGemma 4 31B
参数8.79B 稠密9B(语言模型)11.95B 稠密30.7B 稠密
上下文131,072262,144 原生256K256K
模态(输入)文本文本、图像、视频文本、图像、音频文本、图像
许可证webAI Non-Commercial 1.0Apache 2.0Apache 2.0Apache 2.0
最小官方本地构建4.98 GiB(Q4_K_M)未披露未披露未披露
MATH-50098.296.6(第三方)未披露87.9(Red Hat)
AIME 202688.392.5(MathArena)77.589.2
LiveCodeBench81.6 †65.6(v6)72.0(v6)80.0(v6)
GPQA Diamond70.281.778.884.3
MMLU-Pro76.5 †82.577.285.2

TwIL-8B 数据来自模型卡。† = 详细变体。除非另有标注,所有分数均由各厂商自行报告。

如何在本地运行 TwIL-8B?

from_pretrained("webAI-Official/TwIL-8B") 加载平衡变体。传入 subfolder="verbose" 以使用详细变体。模型卡列出了用于 llama.cpp 的 GGUF 构建:

  • Q4_K_M,4.98 GiB,适用于两个变体
  • Q8_0,8.70 GiB,仅详细变体
  • F16,16.38 GiB,仅详细变体

给它较大的生成预算。模型卡示例设置了 max_new_tokens=32768。预算过短会截断推理,得分会差得多。所有报告的分数均使用 bf16 权重,因此预计 Q4_K_M 会有小幅下降。目前 Hugging Face 上还没有托管推理提供商提供该模型。

关键要点

  • TwIL-8B 是一个 8.79B 稠密推理模型,基于 IBM Granite 4.2 8B 后训练而成。
  • 它在 MATH-500 上得 98.2,在 LiveCodeBench 上得 81.6†。
  • 在 AIME 2026 上,它比 Qwen3.5-9B 少用 38% 的 token。
  • 知识是弱项:GPQA Diamond 落后 Qwen3.5-9B 11.5 分。
  • 权重开放,但仅限非商业使用许可。

查看 Hugging Face 上的模型卡和权重以及 webAI 在 X 上的公告。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub Repo 或 Hugging Face 页面或产品发布或网络研讨会等?联系我们

文章 webAI Releases TwIL-8B, an 8.8B Reasoning Model Scoring 98.2 on MATH-500 首次出现在 MarkTechPost。

来源:MarkTechPost · marktechpost.com

来源:RadarAI · aihot.news