跳到正文
热点事件持续更新

Apple 发布 MLX 新版,Mac Studio 可分布式跑大模型

1 篇报道1 个报道来源19 小时前更新

先了解这件事

AI 综述

Apple 发布 MLX 新版本,并展示在 Mac Studio 上运行前沿大模型的方法。Apple 称,在由四台 Mac Studio 组成的集群上,近万亿参数的 Muse Spark Open 生成速度超过每秒 36 个 token,高于人类平均阅读速度。 该方案从单台 Mac Studio(最高 512GB 统一内存)起步,再通过 RDMA over Thunderbolt 驱动扩展到多台 Mac。macOS 26.2 引入基于 Thunderbolt 5 的低延迟 RDMA 驱动,MLX v0.30.1 及之后版本在其上提供新的通信集合 jaccl,用于不同并行方案。Apple 的测试设置中,两台 Mac Studio 用两根 Thunderbolt 线缆连接以加倍链路带宽。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. Apple Machine Learning Research精选
    在 Mac Studio 上用 MLX 和 RDMA 进行本地与分布式大模型推理

    Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型的方法。四台 M5 Ultra Mac Studio 通过 RDMA over Thunderbolt 5 互联。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。