工具箱

• Ollama

  本地运行大模型

  Ollama 让本地运行与使用大模型变得简单，一条命令拉取并运行开源模型。

  最新 v0.40.5 · 3 天前仓库 ↗

  150,000★· Go· 推理与部署

• REA

  让 agent 做逆向工程

  REA 把编码 agent 接到逆向分析工具上：没有源码也能搞清一个功能是怎么实现的 —— 覆盖原生二进制、JavaScript / Electron 应用、.NET 程序集和网站，可直接复用已有的 Hopper、Ghidra 或 IDA。

  最新 rea-agents-6.5.0 · 3 天前仓库 ↗

  125,509★· TypeScript· AI 编码工具

• ragflow

  融合 RAG 与 Agent 的开源检索增强生成引擎

  RAGFlow 是面向大模型的开源上下文层，将深度文档理解与检索增强生成相结合。

  最新 v1.0.0-rc2 · 昨天仓库 ↗

  91,593★· Go· 向量库与检索

• netdata

  面向全栈基础设施的实时可观测性监控平台

  Netdata 是一款高性能的实时可观测性平台，以秒级粒度采集并可视化服务器、容器、数据库和应用的全栈指标，内置 AI 辅助的异常检测与告警。

  最新 v2.12.1 · 10 月 8 日仓库 ↗

  80,777★· Go· 可观测与评测

• OmniRoute

  免费 MIT AI 网关，一个端点接入 359 家模型服务商

  OmniRoute 是免费 MIT 开源的 AI 网关：把 Claude Code、Cursor、Cline、Copilot 等客户端统一接入 359 家服务商、1200+ 模型，支持配额感知自动降级与 19 种路由策略。

  最新 v3.8.51 · 9 月 30 日仓库 ↗

  72,167★· TypeScript· 推理与部署

• vLLM

  高吞吐 LLM 推理引擎

  vLLM 是高性能的 LLM 推理与服务引擎，PagedAttention 大幅提升吞吐，适合生产部署。

  最新 v0.31.0 · 10 月 5 日仓库 ↗

  60,000★· Python· 推理与部署

• milvus

  面向大规模向量检索的高性能云原生向量数据库

  Milvus 是用 Go 和 C++ 编写的高性能、云原生向量数据库，专为海量非结构化数据（文本、图像、多模态）的相似性检索而设计。

  最新 v3.0.3 · 3 天前仓库 ↗

  46,299★· Go· 向量库与检索

• Codex CLI

  OpenAI 终端编码工具

  OpenAI 开源的终端编码 agent，在命令行里用多轮推理完成编程任务，可跑在本地沙箱。

  暂无版本信息仓库 ↗

  40,000★· TypeScript· AI 编码工具

• Aider

  终端 AI 结对编程

  Aider 在终端里和 LLM 结对编程，自动编辑本地 git 仓库，支持多模型与多文件改动。

  最新 v0.86.0 · 2025 年 8 月仓库 ↗

  40,000★· Python· AI 编码工具

• LightRAG

  轻量快速的图增强检索生成框架

  LightRAG 将知识图谱与向量检索结合，通过实体和关系抽取构建双层索引，让检索同时兼顾全局主题与局部细节。

  最新 v1.5.7 · 9 月 2 日仓库 ↗

  39,955★· Python· 向量库与检索

• Qdrant

  高性能向量数据库

  Qdrant 是 Rust 写的高性能向量数据库，支持过滤与混合检索，适合生产级语义搜索与 RAG。

  最新 v1.19.2 · 10 月 5 日仓库 ↗

  30,000★· Rust· 向量库与检索

• Claude Code

  终端里的 AI 编码 agent

  Anthropic 的终端编码工具，直接在命令行里读写代码、跑测试、改仓库，是 agentic coding 的代表。

  最新 v2.1.302 · 昨天仓库 ↗

  30,000★· TypeScript· AI 编码工具

• Chroma

  面向 AI 应用的开源向量数据库

  Chroma 是轻量的开源向量数据库，主打嵌入存储与相似度检索，适合 RAG 与语义搜索。

  最新 1.5.9 · 5 月 5 日仓库 ↗

  25,000★· Python· 向量库与检索

• Langfuse

  开源 LLM 可观测平台

  Langfuse 是开源的 LLM 可观测与评测平台，支持追踪、成本分析与用户反馈闭环。

  最新 v4.63.0 · 昨天仓库 ↗

  18,000★· TypeScript· 可观测与评测

• Weaviate

  AI 原生向量数据库

  Weaviate 是 AI 原生向量数据库，内置向量化与混合检索，适合知识库与语义应用。

  最新 v1.40.1 · 4 天前仓库 ↗

  16,000★· Go· 向量库与检索

• Arize Phoenix

  LLM 可观测与评测

  Phoenix 提供 LLM 追踪、评估与数据集管理，帮助评估检索与生成质量。

  最新 arize-phoenix-v20.23.0 · 昨天仓库 ↗

  8,000★· Python· 可观测与评测

• giskard-oss

  面向 LLM Agent 的开源评测、红队测试与用例生成库

  Giskard 是一个开源 Python 库，专注于智能体系统的动态多轮测试与评测，提供漏洞扫描、RAG 评估和测试用例自动生成能力。

  最新 giskard-checks/v1.0.6 · 10 月 9 日仓库 ↗

  5,850★· Python· 可观测与评测

• LangSmith

  LLM 应用可观测与调试平台

  LangSmith 提供 LLM 链路的追踪、评测与调试，帮助定位 agent 与 RAG 应用的问题。

  最新 v0.14.9 · 2 天前仓库 ↗

  5,000★· Python· 可观测与评测

• akto

  开源的 API 与 AI 安全平台，60 秒即可上手

  Akto 是开源 API 与 AI 安全平台，60 秒即可部署。

  最新 v2.40.0 · 昨天仓库 ↗

  1,524★· Java· 可观测与评测

• ClawProBench

  面向 OpenClaw 运行时的 LLM Agent 实测基准框架

  ClawProBench 是面向 OpenClaw 运行时的 live-first 评测框架。

  暂无版本信息仓库 ↗

  824★· Rust· 可观测与评测

筛出 20 个（共 71 个） · 12 个分类