工具箱

• Ollama

  本地运行大模型

  Ollama 让本地运行与使用大模型变得简单，一条命令拉取并运行开源模型。

  最新 v0.40.5 · 3 天前仓库 ↗

  150,000★· Go· 推理与部署

• ragflow

  融合 RAG 与 Agent 的开源检索增强生成引擎

  RAGFlow 是面向大模型的开源上下文层，将深度文档理解与检索增强生成相结合。

  最新 v1.0.0-rc2 · 昨天仓库 ↗

  91,593★· Go· 向量库与检索

• OmniRoute

  免费 MIT AI 网关，一个端点接入 359 家模型服务商

  OmniRoute 是免费 MIT 开源的 AI 网关：把 Claude Code、Cursor、Cline、Copilot 等客户端统一接入 359 家服务商、1200+ 模型，支持配额感知自动降级与 19 种路由策略。

  最新 v3.8.51 · 9 月 30 日仓库 ↗

  72,167★· TypeScript· 推理与部署

• Lobe Chat

  开源 AI 聊天框架

  Lobe Chat 是现代化开源聊天框架，支持多模型、插件与知识库，可一键部署成个人或团队 AI 助手。

  暂无版本信息仓库 ↗

  70,000★· TypeScript· AI 产品

• vLLM

  高吞吐 LLM 推理引擎

  vLLM 是高性能的 LLM 推理与服务引擎，PagedAttention 大幅提升吞吐，适合生产部署。

  最新 v0.31.0 · 10 月 5 日仓库 ↗

  60,000★· Python· 推理与部署

• AnythingLLM

  全功能开源 AI 应用

  AnythingLLM 把文档、向量库与任意 LLM 接起来，构建企业知识库与 RAG 应用，开箱即用。

  最新 v1.18.0 · 4 天前仓库 ↗

  60,000★· JavaScript· AI 产品

• milvus

  面向大规模向量检索的高性能云原生向量数据库

  Milvus 是用 Go 和 C++ 编写的高性能、云原生向量数据库，专为海量非结构化数据（文本、图像、多模态）的相似性检索而设计。

  最新 v3.0.3 · 3 天前仓库 ↗

  46,299★· Go· 向量库与检索

• LightRAG

  轻量快速的图增强检索生成框架

  LightRAG 将知识图谱与向量检索结合，通过实体和关系抽取构建双层索引，让检索同时兼顾全局主题与局部细节。

  最新 v1.5.7 · 9 月 2 日仓库 ↗

  39,955★· Python· 向量库与检索

• Qdrant

  高性能向量数据库

  Qdrant 是 Rust 写的高性能向量数据库，支持过滤与混合检索，适合生产级语义搜索与 RAG。

  最新 v1.19.2 · 10 月 5 日仓库 ↗

  30,000★· Rust· 向量库与检索

• Chroma

  面向 AI 应用的开源向量数据库

  Chroma 是轻量的开源向量数据库，主打嵌入存储与相似度检索，适合 RAG 与语义搜索。

  最新 1.5.9 · 5 月 5 日仓库 ↗

  25,000★· Python· 向量库与检索

• Weaviate

  AI 原生向量数据库

  Weaviate 是 AI 原生向量数据库，内置向量化与混合检索，适合知识库与语义应用。

  最新 v1.40.1 · 4 天前仓库 ↗

  16,000★· Go· 向量库与检索

筛出 11 个（共 71 个） · 12 个分类