webAI 发布 8.79B 推理模型 TwIL-8B,MATH-500 得分 98.2
webAI 发布 8.8B 推理模型 TwIL-8B,MATH-500 得分 98.2
webAI 发布稠密推理模型 TwIL-8B,参数量 8.79B,基于 IBM Granite 4.2 8B 后训练,权重以非商业许可上线 Hugging Face。
MarkTechPost· Asif Razzaq·2026-11-05 06:25· 2 小时前AI 评分53
webAI 发布 TwIL-8B,一款在 MATH-500 上得分 98.2 的 8.8B 推理模型
AI 导读
webAI 发布 8.79B 稠密推理模型 TwIL-8B,基于 IBM Granite 4.2 8B 后训练,权重以非商业许可上线 Hugging Face。
正文 · 原文
webAI 发布了 TwIL-8B,这是一款面向数学、代码和指令遵循的 8.8B 推理模型。TwIL-8B 推理模型基于 IBM 的 Granite 4.2 8B 进行后训练。权重以非商业许可发布于 Hugging Face。webAI 的发布博文将卖点围绕每任务成本而非原始规模展开。4-bit 版本为 4.98 GiB,适合 CPU 或显存有限的 GPU 推理。
TL;DR
- 规模:8.79B 参数,稠密。131,072 token 上下文,继承自基础模型。
- 运行于:通过 4.98 GiB 的 Q4_K_M GGUF 在 CPU 或显存有限的 GPU 上运行。完整 bf16 权重为 16.38 GiB。
- 性能:在数学和代码上领先同规模级别,在知识基准上落后。
- 最佳:MATH-500 达 98.2,为 webAI 对比中的最高分。
- 最差:GPQA Diamond 为 70.2,落后 Qwen3.5-9B 11.5 分。HLE 为 12.6(verbose 变体)。
什么是 TwIL-8B?
TwIL-8B 是 webAI 推出的一款稠密仅解码器推理模型。它具有 40 层、隐藏维度 4096、32 个注意力头与 8 个 KV 头。输入和输出仅支持英文文本。模型在每次回答前会写一个 <think> 块。
它提供 2 个变体,架构和分词器相同。Balanced 为默认版本,生成更短的推理轨迹。Verbose 推理更长,面向高难度竞赛风格问题。
TwIL-8B 扩展了 webAI 的 TwIL 系列。首批成员是 2026 年 8 月发布的 1.7B 和 3B 形式逻辑模型。
TwIL-8B 是如何训练的?
webAI 使用了 3 个后训练阶段:
- 全参数 SFT,基于数学、STEM 和指令遵循的推理轨迹。
- GRPO/DAPO 强化学习,基于数学、代码、STEM 和指令提示。这产生了 verbose 变体。
- 长度感知 RL,其奖励倾向于更短的轨迹,并对照各领域的长度参考。这产生了 balanced 变体。
训练池通过 13-gram 匹配针对 AIME、HMMT、MATH-500、GPQA 及其他评测进行了去污染。
TwIL-8B 在基准测试上表现如何?
所有 TwIL-8B 分数均为自报,启用思考的高投入 pass@1。标有 † 的分数仅在 verbose 变体上测得。
- 数学:TwIL-8B 在 MATH-500 上得 98.2。Qwen3.5-9B 在第三方排行榜上列出 96.6。Gemma 4 31B 在Red Hat 的 lighteval 运行中得 87.9。在 AIME 2025 上,TwIL-8B 得 88.3,Gemma 4 31B 为 87.1。在 AIME 2026 上得 88.3,落后于Qwen3.5-9B 的 92.5和Gemma 4 31B 的 89.2。
- 代码:LiveCodeBench† 为 81.6,对比Qwen3.5-9B 的 65.6和 Gemma 4 31B 的 80.0。webAI 指出其 LiveCodeBench 版本未记录。竞品分数为 v6。
- 指令遵循:IFBench† 为 74.4,比 Qwen3.5-9B 的 64.5 高 9.9 分。IFEval 持平,为 91.8 对 91.5。
- 知识:这是薄弱环节。GPQA Diamond 为 70.2,而 Qwen3.5-9B 为 81.7,Gemma 4 31B 为 84.3。MMLU-Pro† 为 76.5,而 Qwen3.5-9B 为 82.5。
在 13 个共同基准上,TwIL-8B 对 Qwen3.5-9B 的战绩为 7 胜 6 负。对约为其 3.5 倍大小的 Gemma 4 31B,战绩为 3 胜 11 负。
TwIL-8B 使用的推理 token 更少吗?
是的,相比其最接近的开源同级模型。在 AIME 2026 上,TwIL-8B 平均每道题输出约 19.5k token。Qwen3.5-9B 使用 31.2k,因此 TwIL-8B 少用 38%。其得分低 4.2 分。在 HMMT Feb 2026 上,差距为 32.9k 对 40.6k,即少用 19%。
前沿模型仍然精简得多。webAI 称 GPT-5.5 在 AIME 2026 每道题约使用 5k token。webAI 表示 harness 和 tokenizer 各不相同,因此应将其视为方向性参考。
TwIL-8B vs Qwen3.5-9B vs Gemma 4
| 指标 | TwIL-8B | Qwen3.5-9B | Gemma 4 12B | Gemma 4 31B |
|---|---|---|---|---|
| 参数 | 8.79B 稠密 | 9B(语言模型) | 11.95B 稠密 | 30.7B 稠密 |
| 上下文 | 131,072 | 262,144 原生 | 256K | 256K |
| 模态(输入) | 文本 | 文本、图像、视频 | 文本、图像、音频 | 文本、图像 |
| 许可证 | webAI Non-Commercial 1.0 | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| 最小官方本地构建 | 4.98 GiB(Q4_K_M) | 未披露 | 未披露 | 未披露 |
| MATH-500 | 98.2 | 96.6(第三方) | 未披露 | 87.9(Red Hat) |
| AIME 2026 | 88.3 | 92.5(MathArena) | 77.5 | 89.2 |
| LiveCodeBench | 81.6 † | 65.6(v6) | 72.0(v6) | 80.0(v6) |
| GPQA Diamond | 70.2 | 81.7 | 78.8 | 84.3 |
| MMLU-Pro | 76.5 † | 82.5 | 77.2 | 85.2 |
TwIL-8B 数据来自模型卡。† = 详细变体。除非另有标注,所有分数均由各厂商自行报告。
如何在本地运行 TwIL-8B?
from_pretrained("webAI-Official/TwIL-8B") 加载平衡变体。传入 subfolder="verbose" 以使用详细变体。模型卡列出了用于 llama.cpp 的 GGUF 构建:
- Q4_K_M,4.98 GiB,适用于两个变体
- Q8_0,8.70 GiB,仅详细变体
- F16,16.38 GiB,仅详细变体
给它较大的生成预算。模型卡示例设置了 max_new_tokens=32768。预算过短会截断推理,得分会差得多。所有报告的分数均使用 bf16 权重,因此预计 Q4_K_M 会有小幅下降。目前 Hugging Face 上还没有托管推理提供商提供该模型。
关键要点
- TwIL-8B 是一个 8.79B 稠密推理模型,基于 IBM Granite 4.2 8B 后训练而成。
- 它在 MATH-500 上得 98.2,在 LiveCodeBench 上得 81.6†。
- 在 AIME 2026 上,它比 Qwen3.5-9B 少用 38% 的 token。
- 知识是弱项:GPQA Diamond 落后 Qwen3.5-9B 11.5 分。
- 权重开放,但仅限非商业使用许可。
查看 Hugging Face 上的模型卡和权重以及 webAI 在 X 上的公告。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub Repo 或 Hugging Face 页面或产品发布或网络研讨会等?联系我们
文章 webAI Releases TwIL-8B, an 8.8B Reasoning Model Scoring 98.2 on MATH-500 首次出现在 MarkTechPost。
来源:MarkTechPost · marktechpost.com
来源:RadarAI · aihot.news