跳到正文
The Decoder· Matthias Bastian·· 8 小时前同新闻AI 评分78

Thinking Machines 发布开源模型 Inkling 2 Mini,采用循环 Transformer 可在笔记本运行

New open model Inkling 2 Mini thinks in loops to solve problems with fewer words and still runs on a laptop

AI 导读

Thinking Machines 发布开源模型 Inkling 2 Mini,采用循环 Transformer 架构,对 24 层中的 12 层连续运行三次,让模型在内部推理更久而不必生成更多文本。

同一新闻,精选展示《Thinking Machines 以 Apache 2.0 开源 Inkling 2 Mini》

正文 · AI 翻译

Thinking Machines 发布了 Inkling 2 Mini,即所谓的循环 Transformer。循环 Transformer 会为每个 token 多次运行某些层。Inkling 2 Mini 将其 24 层中的 12 层连续运行三次。据 Thinking Machines 称,这让模型能够在内部进行更长时间的推理,而无需生成更多文本,从而用更少的 token 找到正确答案。该公司表示,这个开放的混合专家模型拥有 264 亿参数,由于循环机制,每个 token 激活 54 亿参数。它可处理文本和图像,拥有 100 万 token 的上下文窗口,并采用 Apache 2.0 许可。

Inkling 2 Mini 在智能体编程测试中领先所有 1000 亿参数以下的开源模型,在 DeepSWE v1.1 上得分 48.2%,在 Vals Index v2.2 上得分 46.5%。Artificial Analysis 在其智能指数上给它 20 分,与 Qwen3.8 27B 持平,而成本约低六倍、速度快四倍。

Inkling 2 Mini 在 Artificial Analysis 的智能指数上得分为 20,与 Qwen3.8 27B(xhigh)和 Nanbeige4.3-33B 持平。凭借远更少的激活参数,该模型直接位于帕累托前沿上。| 图片:Artificial Analysis

Inkling 2 Mini 可在内存至少 32 GB 的 Mac 和 Nvidia 的 DGX Spark 上本地运行。你可以从 Hugging Face 下载权重以及带可变循环的研究版本。它也可在 Tinker Playground 中试用。

来源:The Decoder · the-decoder.com