RadarAI· X:Georgi Gerganov(llama.cpp) (@ggerganov)·· 1 天前AI 评分50
llama.cpp v0.7.0 支持 128GB Mac/Spark
llama.cpp v0.7.0 支持 128GB Mac
AI 导读
llama.cpp v0.7.0 发布,支持在 128GB Mac/Spark 上运行。用户可通过 `llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on` 命令启动 Qwen3.8-Flash-Next 模型服务。
正文 · 原文
Georgi Gerganov· @ggerganov · X·2026-10-17 01:27· 2 小时前AI 评分47
AI 导读
llama.cpp v0.7.0,128GB Mac/Spark: llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on
正文
llama.cpp v0.7.0, 128GB Mac/Spark:
llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on
来源:Georgi Gerganov · x.com
来源:RadarAI · aihot.news