跳到正文
热点事件持续更新

vLLM 宣布 Day 0 支持 Mistral Large 4

1 篇报道1 个报道来源17 小时前更新

先了解这件事

AI 综述

vLLM 团队宣布对 Mistral Large 4 提供 Day 0 支持。该模型为 1T 参数、每 token 激活 49B 的 MoE 原生多模态模型,采用 MLA 加 DSA 稀疏注意力,并内置 Pixtral 视觉编码器。 支持通过 vllm/vllm-openai:mistral-large-4 Docker 镜像提供,镜像内含 mistral-common 1.13;该模型仅能在 MRV2 上运行。此外,Mistral Large 4 从第一天起即可在 AMD Instinct MI350 系列 GPU(ROCm 版 vLLM)和 TPU v7x(vllm-torchtpu,含 Pixtral 视觉编码器支持)上运行。

AI 根据报道生成 · 2 小时前更新

最新进展10月29日 08:00
vLLM 实现 Mistral Large 4 Day 0 支持

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. vLLM Blog精选
    vLLM 实现 Mistral Large 4 Day 0 支持

    vLLM 宣布对 Mistral Large 4 提供 Day 0 支持,该模型为 1T 参数、每 token 激活 49B 的 MoE 原生多模态模型,采用 MLA 加 DSA 稀疏注意力并内置 Pixtral 视觉编码器。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。