跳到正文
vLLM Blog· vLLM Team·原文发布· 21 小时前精选AI 评分78

vLLM 首日支持 Muse Spark Open

Day 0 support for Muse Spark Open on vLLM

AI 导读

vLLM 宣布与 Meta Superintelligence Labs 合作,在发布首日支持开源权重稀疏 MoE 模型 Muse Spark Open。该模型总参数 816B、每 token 激活 42B,支持 1M 上下文窗口,原生支持图像、视频与音频感知,Meta 同时发布 BF16 和 NVFP4 版本,AMD 发布 MXFP4 权重。

本站提供 AI 导读,完整报道请前往来源网站阅读。

阅读原文 vLLM Blog · vllm.ai
推荐理由

vLLM 给出 Muse Spark Open 的 Day 0 部署配置与架构细节,可了解 1M 上下文 MoE 模型的推理落地方式。