跳到正文
RadarAI· Simon Willison 博客·· 6 小时前AI 评分22

datasette-llm 0.1a11 发布:支持 OpenAI 兼容端点

AI 导读

Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可将 Datasette 配置为使用任何遵循该协议的 LLM 服务。用 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 跑本地模型的用户,可通过 uvx 启动由本地模型驱动的 Datasette Agent 实例。

正文 · AI 翻译

Simon Willison 博客·2026-11-15 07:59· 2 小时前AI 评分41

datasette-llm 0.1a11

AI 导读

Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可将 Datasette 配置为使用任何遵循该协议的 LLM 服务。这意味着用 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 跑本地模型的用户,可通过 uvx 启动由本地模型驱动的 Datasette Agent 实例。

正文 · 原文

发布: datasette-llm 0.1a11

datasette-llm 是 Datasette 的中间插件,支持配置 LLM 以供其他 Datasette 插件使用。

此版本新增了对 OpenAI 兼容端点的支持,因此你可以将 Datasette 配置为使用任何遵循 OpenAI 伪标准 Web 协议的 LLM 服务。

这意味着,如果你正在使用 LM Studio、Ollama 或 llama.cpp(刚刚发布 v1.0.0)运行本地模型,就可以像这样通过 uvx 运行 Datasette:

wget https://datasette.io/content.db

uvx --with datasette-agent datasette \
  --root --secret 1 \
  -s plugins.datasette-llm.default_model '{
    "model": "lmstudio-qwen",
    "model_name": "qwen/qwen3.8-27b",
    "api_base": "http://localhost:1234/v1"
  }' content.db

然后你就会得到一个由本地模型驱动的 Datasette Agent 实例的本地服务器!

Screenshot of a chat interface. Header bar reads "home" on the left and "root" with a hamburger menu icon on the right. Below is a back arrow, the heading "Chat", a model label "lmstudio-qwen" and an "EXPORT" button. A blue user message bubble says "how many repos and how many releases are there?" Below it is a collapsed tool call "list_databases_and_tables" and an expanded tool call "sql_query". Its REQUEST section shows database "content", display "both" and the SQL: SELECT (SELECT COUNT(*) FROM repos) AS repo_count, (SELECT COUNT(*) FROM releases) AS release_count. Its RESPONSE section shows columns repo_count and release_count with a single row of 200 and 1889. Below that is a table with columns repo_count and release_count and one row: 200, 1889, followed by a "View SQL query" button. The assistant reply reads "There are 200 repos and 1,889 releases in the content database." At the bottom is a text input with placeholder "Type a message... (# to tag a table or query)" and a blue "Send" button.

标签:uv、datasette-agent、llm、datasette、llms、ai、generative-ai

来源:Simon Willison 博客 · simonwillison.net

来源:RadarAI · aihot.news