跳到正文
Hacker News· mythz·· 6 天前AI 评分38

llms.py:轻量自托管 ChatGPT 替代方案,支持 530+ 模型与 24 家提供商

Show HN: Llms.py – Lightweight, self-hosted ChatGPT alternative to OpenWebUI

AI 导读

llms.py 发布 v4,定位为轻量、自托管、多用户的 ChatGPT 与 OpenWebUI 替代方案,仅依赖 1 个 Python 库(aiohttp)。它通过单一网关接入 24 家提供商的 530+ 模型,覆盖文本、图像、音频三种模态,并新增扩展系统、Gemini File Search RAG、Agent Profiles、MCP 与 Skills 支持。

正文 · AI 翻译

llms.py

开源、轻量级、可自托管、多用户的 ChatGPT + OpenRouter + OpenWebUI 替代方案,支持来自本地和云端 LLM 的文本、图像和音频

2026年10月6日 - v4 发布!→

选择你的桌面操作系统以查看下载。

所有桌面下载 →

在你的应用内嵌入一个完整的 AI 助手,使用你现有的用户

530+

模型

24

提供商

3

模态 · 文本 · 图像 · 音频

100%

开源且可自托管

1

Python 依赖
(aiohttp)

一个工具,涵盖所有模态

生成任何内容

通过单一自托管网关 - 与 530+ 模型聊天,创建图像,并在 24 个提供商之间合成语音

文本与聊天

一个快速、私密、类 ChatGPT 的 Web UI,覆盖所有本地和云端 LLM - 具备工具、MCP、技能、代理和 200+ 系统提示词

图像生成

通过 Gemini、OpenAI、OpenRouter、Chutes、Z.ai 和 Nvidia 创建图像 - 直接在聊天和图库工作流中完成

音频与语音

使用 Gemini 和 OpenRouter 模型进行高质量文本转语音,并通过麦克风进行语音转文本输入

创建 → 发布 → 展示

你的创作,尽在公共图库

你在 llms.py 中生成的任何内容都可以一键发布 - 直接进入 ai.llmspy.org 的实时展示区,所有人都可以按分类、标签、评分浏览,并支持无限滚动。

  • 按分类和标签浏览生成的图像和音频
  • 播放完整的 AI 构建的项目 - 游戏和应用,开箱即用
  • 免费且匿名的发布者账户 - 无需邮箱

ai.llmspy.org Public Gallery - Images

可玩且自包含

AI 构建的项目

完整、自包含的应用和游戏 - 使用 llms.py 生成并发布,任何人都可以打开和游玩

💬 简单聊天

直接从命令行提问

新功能

最新版本专注于可扩展性、扩展的提供商支持以及增强的用户体验

来自 24 个提供商的 530+ 模型

由 models.dev 集成提供支持,每日自动更新

扩展系统

通过灵活的插件添加功能、提供商并自定义 UI

Gemini 文件搜索

使用文档存储、分类和上下文聊天的 RAG 工作流

凭据认证

用户名/密码认证,配备管理 UI 和 CLI 用户管理

代理配置文件

具有自定义提示词、工具、主题和规划器→编码器工作流的专用 AI 代理

项目

安全的工作区隔离,将 AI 代理的文件系统访问限制在指定的项目文件夹内

PDF 工作室

使用 Typst 模板设计像素级一致的 PDF,实时预览、模式驱动表单和 AI 辅助

工具支持

一流的 Python 函数调用,用于与你的环境进行 LLM 交互

服务器工具

内置支持提供商托管的 Anthropic 和 OpenRouter 服务器工具,如网络搜索

MCP 支持

连接到 Model Context Protocol 服务器以扩展工具能力

技能支持

通过专业知识、工作流和工具扩展 AI 能力

主题

使用内置主题自定义外观,或创建你自己的主题

计算器与运行代码 UI

精美的 UI,用于评估数学表达式并执行 Python、JS、TS 和 C# 代码

媒体图库

在一个地方浏览和管理你生成的所有图像和音频

语音输入

通过麦克风按钮或 ALT+D 键盘快捷键进行语音转文本转录

图像生成

内置支持 Gemini、OpenAI、OpenRouter、Chutes、Z.ai 和 Nvidia

音频生成

支持 Gemini 2.5 Flash/Pro Preview 模型的 TTS

KaTeX 数学渲染

为方程和公式提供精美的 LaTeX 数学排版

模型选择器

对来自 24 家提供商的 530 个模型进行智能搜索、高级筛选、排序和收藏

了解更多 →

Model Selector with search and filtering

凭据认证

内置用户名/密码认证,提供登录页面、管理 Web UI 和 CLI,用于管理用户账户、角色和账户锁定

了解更多 →

代理配置与项目

配置具有自定义提示词、工具和主题的专用 AI 代理,并将其文件系统访问范围限定在安全的项目工作区

PDF 工作室

使用 Typst 模板设计像素级一致的 PDF,支持实时预览、模式驱动表单、类型化代码生成和 AI 辅助

PDF Studio Overview

由 Gemini 驱动的知识,从来源到答案

将你的内容转化为值得信赖的 AI 助手

将文件、代码仓库和网站导入托管的 Gemini 文件存储。精心挑选每个答案可使用的确切知识,验证每条引用,然后通过一个 script 标签在任何地方发布精美的支持助手。

文档、导入和助手的一体化工作区

精心挑选每个来源

上传文件和 ZIP 压缩包、同步文件夹,或将网站抓取为可检查的 Markdown,然后再建立索引。

精准检索

按类别、类型、状态、语言区域、产品、版本、标签或单个文档来限定 Gemini 的范围。

自信发布

发布带有品牌标识、引用可追溯的网站助手,并查看真实的客户对话。

准备好让 Gemini 基于你自己的知识了吗?

安装扩展,创建文件存储,然后提出你的第一个带引用的问题。

阅读 Gemini RAG 指南

工具与函数调用

为 LLM 交互提供一流的 Python 函数调用

了解更多 →

服务器工具

内置支持提供商托管的 OpenRouter 和 Anthropic 服务器工具,如网络搜索、网页抓取和代码执行

了解更多 →

MCP 支持

通过模型上下文协议服务器扩展 LLM 能力

了解更多 →

技能支持

通过专业知识、工作流和工具扩展 AI 能力

了解更多 →

计算器 UI

用于求值 Python 数学表达式的精美界面

了解更多 →

Calculator UI with Python math support

运行代码 UI

执行 Python、JavaScript、TypeScript 和 C# 代码,并支持语法高亮

了解更多 →

Run Python Code with syntax highlighting

KaTeX 数学排版

精美渲染 LaTeX 数学表达式

了解更多 →

系统提示词库

200+ 精选系统提示词,适用于各种用例

了解更多 →

System Prompts Library

运行时提供商管理

即时启用或禁用提供商,无需更改配置

了解更多 →

Provider management interface

准备好开始了吗?

安装 llms.py,几分钟内即可与 530+ AI 模型聊天

来源:Hacker News · llmspy.org