跳到正文
IT之家 · 人工智能·原文发布· 2 小时前AI 评分47

摩尔线程开源 Megatron-MUSA-Titan,聚焦万卡级集群的万亿参数 MoE 模型训练

AI 导读

摩尔线程今日开源大模型训练基础设施项目 Megatron-MUSA-Titan,基于其全功能 GPU,面向万卡级集群的万亿参数 MoE 模型训练,覆盖预训练与强化学习两大场景。

本站提供 AI 导读,完整报道请前往来源网站阅读。

阅读原文 IT之家 · 人工智能 · ithome.com