Apple 发布 MLX 新版,Mac Studio 可分布式跑大模型
热点事件持续更新
Apple 发布 MLX 新版,Mac Studio 可分布式跑大模型
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
Apple 发布 MLX 新版本,并展示在 Mac Studio 上运行前沿大模型的方法。Apple 称,在由四台 Mac Studio 组成的集群上,近万亿参数的 Muse Spark Open 生成速度超过每秒 36 个 token,高于人类平均阅读速度。 该方案从单台 Mac Studio(最高 512GB 统一内存)起步,再通过 RDMA over Thunderbolt 驱动扩展到多台 Mac。macOS 26.2 引入基于 Thunderbolt 5 的低延迟 RDMA 驱动,MLX v0.30.1 及之后版本在其上提供新的通信集合 jaccl,用于不同并行方案。Apple 的测试设置中,两台 Mac Studio 用两根 Thunderbolt 线缆连接以加倍链路带宽。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 08:00
在 Mac Studio 上用 MLX 和 RDMA 进行本地与分布式大模型推理报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- Apple Machine Learning Research精选在 Mac Studio 上用 MLX 和 RDMA 进行本地与分布式大模型推理
Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型的方法。四台 M5 Ultra Mac Studio 通过 RDMA over Thunderbolt 5 互联。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。