跳到正文
RadarAI· X:Georgi Gerganov(llama.cpp) (@ggerganov)·· 1 天前AI 评分50

llama.cpp v0.7.0 支持 128GB Mac/Spark

llama.cpp v0.7.0 支持 128GB Mac

AI 导读

llama.cpp v0.7.0 发布,支持在 128GB Mac/Spark 上运行。用户可通过 `llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on` 命令启动 Qwen3.8-Flash-Next 模型服务。

正文 · AI 翻译

Georgi Gerganov· @ggerganov · X·2026-10-17 01:27· 2 小时前AI 评分47

AI 导读

llama.cpp v0.7.0,128GB Mac/Spark: llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on

正文

llama.cpp v0.7.0,128GB Mac/Spark:

llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy-mode on

来源:Georgi Gerganov · x.com

来源:RadarAI · aihot.news