跳到正文
GitHub·· 6 天前AI 评分30

llama-cpp-windows-manager:Windows 本地 GGUF 模型桌面管理面板

Meggypistillate161/llama-cpp-windows-manager

AI 导读

llama-cpp-windows-manager 是一款面向 Windows 的桌面面板,用于安装、配置并运行本地 GGUF 模型,底层基于 llama.cpp。它提供运行时管理功能,并可在本地托管 API 端点。

来源:GitHub · github.com