跳到正文
热点事件持续更新

OpenRouter 测算自托管 LLM 何时比 API 划算

1 篇报道1 个报道来源36 分钟前更新

先了解这件事

AI 综述

OpenRouter 按 2026 年 10 月 8 日的价格测算,自托管 LLM 只有在 GPU 负载超过盈亏平衡点时才比 API 便宜。以 Qwen3.8 27B 在单张租用 RTX 3090(每小时 0.50 美元)上运行为例,负载约 6% 至 12% 即可打平,但每个用户只能获得约 15 tokens/秒。 OpenRouter 称,该测算使用其 API 的实时各家供应商价格。其 Business 和 Enterprise 套餐中,发往 eu.openrouter.ai 或 us.openrouter.ai 的请求只在该区域的端点运行,越界会失败而非外溢;Enterprise 套餐的 Private Endpoints 可把用户自有的专用或微调部署加入目录模型供应商列表。

AI 根据报道生成 · 27 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月12日
  1. OpenRouter Announcements
    自托管 LLM 与 API 之争:什么时候自托管才划算

    OpenRouter 按 2026 年 10 月 8 日价格测算,自托管 LLM 只有在 GPU 负载超过盈亏平衡点时才比 API 便宜:Qwen3.8 27B 在单张租用 RTX 3090($0.50/小时)上约 6% 至 12% 负载即可打平,但每用户仅约 15 tokens/秒。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。