Qwen3.8-2.4T 的 PD 分离式服务

vLLM 在 GB300 NVL72 集群上对 Qwen3.8-2.4T 做 PD 分离式服务，8K/1K 负载下高吞吐场景达每 GPU 5000 总 token 吞吐，低延迟场景达每用户 180 生成 token。