跳到正文
热点事件观察中

Buoyant 发布开源推理控制面 Kinference

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Buoyant 发布开源项目 Kinference(Apache v2 协议,已在 GitHub 上线),定位为基于 vLLM 和 Kubernetes 构建可扩展推理平台的控制面。 功能方面,Kinference 提供 token 限速、租户用量与成本追踪、智能负载均衡和推理策略等能力。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. vLLM Blog
    Buoyant 发布开源推理控制面 Kinference,面向 vLLM 与 Kubernetes

    Buoyant 团队发布开源项目 Kinference(Apache v2),定位为基于 vLLM 和 Kubernetes 构建推理平台的控制面,提供 token 限速、租户用量与成本追踪、智能负载均衡和推理策略等功能。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。