跳到正文
RadarAI· nrp.ai·· 4 小时前AI 评分20

NRP LLM 用户如何通过 Envoy AI Gateway 使用个人令牌访问 API

API 访问

AI 导读

NRP LLM 用户可通过 Envoy AI Gateway 用个人令牌调用兼容 OpenAI 的端点,访问需属于带 LLM 标志的组。文档提醒应设置 cache_salt,避免自己的缓存提示词与其他用户的缓存混在一起。

来源:RadarAI · bestblogs.dev