vLLM 宣布 Day 0 支持 Mistral Large 4
热点事件持续更新
vLLM 宣布 Day 0 支持 Mistral Large 4
1 篇报道1 个报道来源17 小时前更新
先了解这件事
AI 综述
vLLM 团队宣布对 Mistral Large 4 提供 Day 0 支持。该模型为 1T 参数、每 token 激活 49B 的 MoE 原生多模态模型,采用 MLA 加 DSA 稀疏注意力,并内置 Pixtral 视觉编码器。 支持通过 vllm/vllm-openai:mistral-large-4 Docker 镜像提供,镜像内含 mistral-common 1.13;该模型仅能在 MRV2 上运行。此外,Mistral Large 4 从第一天起即可在 AMD Instinct MI350 系列 GPU(ROCm 版 vLLM)和 TPU v7x(vllm-torchtpu,含 Pixtral 视觉编码器支持)上运行。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 08:00
vLLM 实现 Mistral Large 4 Day 0 支持报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- vLLM Blog精选vLLM 实现 Mistral Large 4 Day 0 支持
vLLM 宣布对 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的 MoE 原生多模态模型,采用 MLA 加 DSA 稀疏注意力并内置 Pixtral 视觉编码器。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。