vLLM Blog· Inferact and the vLLM Team·原文发布· 18 小时前精选AI 评分67
vLLM 为 Kimi K3.1 Pro 提供 Day-0 支持
vLLM Delivers Day-0 Support for Kimi K3.1 Pro
AI 导读
vLLM 宣布对月之暗面开源模型 Kimi K3.1 Pro 提供 Day-0 支持，该模型为 2.8T 参数（104B 激活）的多模态 MoE，具备 1M token 上下文，并在 24 个全注意力层引入稀疏注意力 DSA。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 vLLM Blog · vllm.ai
推荐理由
vLLM 官方详解 Kimi K3.1 Pro 的稀疏注意力支持与各项加速数据，读者可据此评估长上下文与智能体推理的部署收益。