IT之家 · 人工智能·原文发布· 3 小时前AI 评分64
淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s
AI 导读
淘宝 MNN 团队开源 MNN-Pocket-0.3B 手机端原生大模型,在 iPhone 18 Pro 上通过 MNN 推理引擎完全离线运行,平均解码速度约 350 token/s,INT4 部署文件仅 173MB。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 IT之家 · 人工智能 · ithome.com