跳到正文
热点事件持续更新

Buoyant 开源 vLLM 推理控制平面 Kinference

2 篇报道2 个报道来源5 小时前更新

先了解这件事

AI 综述

Linkerd 背后的公司 Buoyant 发布开源项目 Kinference,定位为 Kubernetes 与 vLLM 之上的推理控制平面,采用 Rust 编写、Apache 2.0 许可,已在 GitHub 上线。 当前版本为 v0.1.0-alpha.7,仍处 alpha 阶段:token 限流、分类器和对 Anthropic API 的支持尚未发布。Buoyant 称其 SLO(8 秒和 4 秒)适用于离线 agent,而非聊天场景。 早期发布说明将 token 限流、租户用量与成本追踪、负载均衡和推理策略列为项目提供的能力,但按后续报道,其中限流等功能在现版本中尚未交付。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月7日
  1. RadarAI
    Buoyant 开源 Kinference:面向 Kubernetes 与 vLLM 的推理控制平面

    Linkerd 背后的公司 Buoyant 发布开源项目 Kinference,一个面向 Kubernetes 和 vLLM 的推理控制平面,当前版本 v0.1.0-alpha.7,采用 Rust 编写、Apache 2.0 许可。

11月4日
  1. vLLM Blog精选
    Buoyant 开源 Kinference:面向 vLLM 与 Kubernetes 的推理控制平面

    Buoyant 发布开源项目 Kinference,作为 vLLM 与 Kubernetes 之上的推理控制平面,提供 token 限流、租户用量与成本追踪、负载均衡和推理策略。

本事件热度走势

可比范围当前
9
可比范围峰值
911月7日 19:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。