Buoyant 开源 vLLM 推理控制平面 Kinference
热点事件持续更新
Buoyant 开源 vLLM 推理控制平面 Kinference
2 篇报道2 个报道来源5 小时前更新
先了解这件事
AI 综述
Linkerd 背后的公司 Buoyant 发布开源项目 Kinference,定位为 Kubernetes 与 vLLM 之上的推理控制平面,采用 Rust 编写、Apache 2.0 许可,已在 GitHub 上线。 当前版本为 v0.1.0-alpha.7,仍处 alpha 阶段:token 限流、分类器和对 Anthropic API 的支持尚未发布。Buoyant 称其 SLO(8 秒和 4 秒)适用于离线 agent,而非聊天场景。 早期发布说明将 token 限流、租户用量与成本追踪、负载均衡和推理策略列为项目提供的能力,但按后续报道,其中限流等功能在现版本中尚未交付。
AI 根据报道生成 · 2 小时前更新
最新进展11月7日 16:16
Buoyant 开源 Kinference:面向 Kubernetes 与 vLLM 的推理控制平面报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- RadarAIBuoyant 开源 Kinference:面向 Kubernetes 与 vLLM 的推理控制平面
Linkerd 背后的公司 Buoyant 发布开源项目 Kinference,一个面向 Kubernetes 和 vLLM 的推理控制平面,当前版本 v0.1.0-alpha.7,采用 Rust 编写、Apache 2.0 许可。
11月4日
- vLLM Blog精选Buoyant 开源 Kinference:面向 vLLM 与 Kubernetes 的推理控制平面
Buoyant 发布开源项目 Kinference,作为 vLLM 与 Kubernetes 之上的推理控制平面,提供 token 限流、租户用量与成本追踪、负载均衡和推理策略。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 911月7日 19:00
- 近 24 小时变化
- –
02.557.510
12:0011月6日12:0011月7日12:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。