Thinking Machines 发布开源模型 Inkling 2 Mini,采用循环 Transformer 可在笔记本运行
New open model Inkling 2 Mini thinks in loops to solve problems with fewer words and still runs on a laptop
Thinking Machines 发布开源模型 Inkling 2 Mini,采用循环 Transformer 架构,对 24 层中的 12 层连续运行三次,让模型在内部推理更久而不必生成更多文本。
同一新闻,精选展示《Thinking Machines 以 Apache 2.0 开源 Inkling 2 Mini》
Thinking Machines 发布了 Inkling 2 Mini,即所谓的循环 Transformer。循环 Transformer 会为每个 token 多次运行某些层。Inkling 2 Mini 将其 24 层中的 12 层连续运行三次。据 Thinking Machines 称,这让模型能够在内部进行更长时间的推理,而无需生成更多文本,从而用更少的 token 找到正确答案。该公司表示,这个开放的混合专家模型拥有 264 亿参数,由于循环机制,每个 token 激活 54 亿参数。它可处理文本和图像,拥有 100 万 token 的上下文窗口,并采用 Apache 2.0 许可。
Inkling 2 Mini 在智能体编程测试中领先所有 1000 亿参数以下的开源模型,在 DeepSWE v1.1 上得分 48.2%,在 Vals Index v2.2 上得分 46.5%。Artificial Analysis 在其智能指数上给它 20 分,与 Qwen3.8 27B 持平,而成本约低六倍、速度快四倍。

Inkling 2 Mini 可在内存至少 32 GB 的 Mac 和 Nvidia 的 DGX Spark 上本地运行。你可以从 Hugging Face 下载权重以及带可变循环的研究版本。它也可在 Tinker Playground 中试用。
来源:The Decoder · the-decoder.com