跳到正文
热点事件历史事件

vLLM Semantic Router 发布 Decision 3.0 模型系列

1 篇报道1 个报道来源4 天前更新

先了解这件事

AI 综述

vLLM Semantic Router 团队发布了 Decision 3.0 多模态决策模型系列,共 5 个尺寸,从 0.85B 到 26.09B,全部采用 Apache-2.0 许可。 据 MarkTechPost 报道,该系列安装需使用 transformers==5.17.0,可选的 flash-linear-attention 包用于加速线性注意力层;加载模型需要设置 trust_remote_code=True。报道称上下文长度未披露。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. MarkTechPost
    Decision 3.0 是什么?vLLM Semantic Router 的新开放决策模型

    vLLM Semantic Router 团队发布 Decision 3.0 多模态决策模型家族,共 5 个尺寸,从 0.85B 到 26.09B,全部采用 Apache-2.0 许可。