热点事件持续更新

vLLM 发布 Recursive Flint 模型 Day-0 支持

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

vLLM 宣布从 Day-0 起支持 Recursive 的 Flint 模型（40B MoE），其 NVFP4 和 BF16 两种 checkpoint 均可在单张 GPU 上运行；在 GB200 上，即使 100K 上下文，单请求解码速度约 500 tokens/s。专用 Flint 内核针对单张 Blackwell GPU（TP=1、BF16 KV cache），其他配置回退到 vLLM 标准层。官方提供内置 Flint 支持的 Day-0 Docker 镜像 vllm/vllm-openai:flint（x86_64 和 arm64，CUDA 13.0），Flint 支持正在合并进 vLLM 主线（#62938）。

AI 根据报道生成 · 1 小时前更新

最新进展10月21日 08:00

vLLM Day-0 支持 Recursive 的 Flint 模型

报道时间线

沿着报道，了解事件的不同侧面。

10月21日

08:00
vLLM Blog
vLLM Day-0 支持 Recursive 的 Flint 模型
vLLM 从 Day-0 起支持 Recursive 的 Flint 模型，NVFP4 和 BF16 两种 checkpoint 均可在单张 GPU 上运行，在 GB200 上 100K 上下文下单请求解码约 500 tokens/s。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。