工具箱
偏开源的一站式 AI 工具箱 —— Skills 技能、MCP、插件、AI 编码工具与产品，以及 Agent 框架、SDK、向量库、可观测与编排。
全部 71Agent 框架 17SDK 与库 9可观测与评测 7编排 / 工作流 7其他 7向量库与检索 6AI 编码工具 4MCP Server 4推理与部署 3插件 Plugins 3AI 产品 2Skills 技能 2清除
Ollama
本地运行大模型
Ollama 让本地运行与使用大模型变得简单，一条命令拉取并运行开源模型。
最新 v0.40.5 · 2 天前仓库 ↗150,000★· Go· 推理与部署OmniRoute
免费 MIT AI 网关，一个端点接入 359 家模型服务商
OmniRoute 是免费 MIT 开源的 AI 网关：把 Claude Code、Cursor、Cline、Copilot 等客户端统一接入 359 家服务商、1200+ 模型，支持配额感知自动降级与 19 种路由策略。
最新 v3.8.51 · 9 月 30 日仓库 ↗72,167★· TypeScript· 推理与部署vLLM
高吞吐 LLM 推理引擎
vLLM 是高性能的 LLM 推理与服务引擎，PagedAttention 大幅提升吞吐，适合生产部署。
最新 v0.31.0 · 10 月 5 日仓库 ↗60,000★· Python· 推理与部署
筛出 3 个（共 71 个） · 12 个分类