RadarAI· X：Thomas Wolf（Hugging Face 联创/CSO） (@Thom_Wolf)·· 4 小时前AI 评分52
Thomas Wolf 点评 Recursive_SI 开源本地编码模型 Flint：lm_head 量化到 4 bit 仍接近 bf16
AI 导读
Thomas Wolf 点评 Recursive_SI 的首个模型 Flint，称其把通常被建议保持高精度的 lm_head 量化到 4 bit 后，结果距 bf16 仅 0.7 个百分点，并以开放权重发布在 Hugging Face hub。
正文 · AI 翻译
Thomas Wolf· @Thom_Wolf · X·2026-10-22 02:02· 1 小时前AI 评分53
AI 导读
Thomas Wolf 称自己对 AGI 的标准仍是 AI 拿诺贝尔奖，但称赞 Recursive_SI 的 Flint 敢于把通常建议保持高精度的 lm_head 量化到 4 bit，结果距 bf16 仅 0.7 个百分点且以开放权重发布在 Hugging Face hub。引用内容介绍 Flint 为快速本地编码模型，MacBook Pro 上 125+ tokens/sec、RTX Spark 上 150+ tokens/sec，从零构建用时不到 4 个月，开放权重现已在 Hugging Face 提供。
正文 · 原文
我对 AGI 的标准仍然是 AI 赢得诺贝尔奖。
但一位 AI 研究者看着 lm_head（*所有人*都告诉你要保持高精度）决定把它量化到 4 bit，而且居然是对的（与 bf16 相差 0.7 个百分点），这确实令人印象深刻。
更棒的是，结果以开放权重形式推送到了 Hugging Face hub 上。
恭喜 @Recursive_SI ！
隆重推出 Flint，@Recursive_SI 的首个模型：一个由我们的自动化研究系统 Eureka Machine 构建的快速本地编码模型。 • 同类最佳的快速本地编码 • 比同类模型快至多 2 倍：MacBook Pro 上 125+ tokens/sec，RTX Spark 上 150+ • 从零构建用时不到 4 个月 在你自己的机器上获得私密、不计量的智能。开放权重现已在 @huggingface 上提供，可在你喜欢的框架中本地运行，或在 @opencode 或 @pidotdev 上免费试用。在 X 查看被引用的帖子
来源：Thomas Wolf · x.com
来源：RadarAI · aihot.news