跳到正文
vLLM Blog· vLLM Team·原文发布· 23 小时前AI 评分50

GLM-5.3 优化(二):在 16 张 H200 上应用 PCP、DCP 与 Hybrid HiSparse

GLM-5.3 Optimizations, Part 2: PCP, DCP, and Hybrid HiSparse on 16 H200s

AI 导读

vLLM 团队针对 GLM-5.3 在 16 张 H200 上的长上下文服务提出 PCP、DCP 与 Hybrid HiSparse 组合方案:PCP 按 token 而非注意力头切分 prompt。

本站提供 AI 导读,完整报道请前往来源网站阅读。

阅读原文 vLLM Blog · vllm.ai