Simon Willison·· 6 小时前AI 评分22
Datasette 插件 datasette-llm 0.1a11 支持 OpenAI 兼容端点
datasette-llm 0.1a11
AI 导读
Datasette 的中间插件 datasette-llm 发布 0.1a11,新增对 OpenAI 兼容端点的支持,可将 Datasette 配置为使用任何遵循该 Web 协议的 LLM 服务。这意味着配合 LM Studio、Ollama 或刚发布 v1.0.0 的 llama.cpp 运行本地模型时,可通过 uvx 启动由本地模型驱动的 Datasette Agent 实例。
正文 · AI 翻译
datasette-llm 是 Datasette 的中间插件,支持配置 LLM 以供其他 Datasette 插件使用。
此版本新增了对 OpenAI 兼容端点的支持,因此你可以配置 Datasette 使用托管在任何遵循 OpenAI 伪标准 Web 协议的地方的 LLM。
这意味着,如果你正在使用 LM Studio 或 Ollama 或 llama.cpp(刚刚发布了 v1.0.0)运行本地模型,你可以像这样通过 uvx 运行 Datasette:
wget https://datasette.io/content.db uvx --with datasette-agent datasette \ --root --secret 1 \ -s plugins.datasette-llm.default_model '{ "model": "lmstudio-qwen", "model_name": "qwen/qwen3.8-27b", "api_base": "http://localhost:1234/v1" }' content.db
然后你就会得到一个运行着由本地模型驱动的 Datasette Agent 实例的本地服务器!

来源:Simon Willison · simonwillison.net