原文发布
LFM2.5-24B-A2B:为快速端侧智能体打造
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧快速私有智能体,是 LFM2.5 系列中最大也是最后一款。
推荐理由:官方给出端侧智能体的速度、基准与部署入口,可据此判断本地 Agent 的可行边界。
技术方向
跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。
8 条精选近 30 天 5 条共收录 29 条
日期栏展示收录日期,历史补录归入原文日期。
原文发布
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅激活 2B 的推理模型,面向端侧快速私有智能体,是 LFM2.5 系列中最大也是最后一款。
推荐理由:官方给出端侧智能体的速度、基准与部署入口,可据此判断本地 Agent 的可行边界。
NVIDIA 与 Microsoft 在旧金山 Windows AI 与 Surface 活动上宣布为 Windows PC 共同设计运行 AI 智能体的软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
推荐理由:NVIDIA 与 Microsoft 把智能体运行环境做进 Windows,并给出 RTX Spark 与 DGX Station 的本地算力规格,可据此判断端侧智能体的硬件门槛。
Liquid AI 发布 d1-3B 和 d1-omni-600M 两款开放权重决策模型,均已在 Hugging Face 上线。
推荐理由:官方给出两款开放权重决策模型的基准、延迟与架构细节,可据此判断端侧实时决策的可用边界。
Google DeepMind 发布 EmbeddingGemma 2,一个基于 Gemma 4 架构、740M 参数的开源多模态嵌入模型,采用 Apache 2.0 许可,将文本、图像、音频、视频映射到统一嵌入空间。
推荐理由:EmbeddingGemma 2 把文本、图像、音频、视频统一进一个 740M 端侧嵌入模型,读者可据此判断本地多模态检索的可行边界。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark,10 月 23 日开售,起售价 4,999 美元,预装 DGX OS 与 NVIDIA AI 软件栈。
推荐理由:原文给出 64GB 新配置的规格、价格与双机集群方式,可据此判断本地跑大模型的门槛变化。
Liquid AI 为 LFM2.5 家族三款模型发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。
推荐理由:Liquid AI 公布三款 LFM2.5 草稿模型的实测加速数据,并说明验证损失与接受率脱钩的取舍。
Liquid AI 发布视觉语言模型 LFM2.5-VL-3B,基于此前的 LFM2-VL-3B 在屏幕理解、grounding、函数调用和多图输入四方面做了改进,模型已在 Hugging Face 和 Playground 上线。
推荐理由:Liquid AI 发布 3B 端侧视觉语言模型,给出与更大模型的逐项基准对比和部署支持,可据此判断端侧多模态的当前水位。
Liquid AI 发布 LFM2.5-2.6B,一款完全在端侧运行的智能体模型,可跑在手机上,CPU 上也能保持响应,支持规划、调用工具和多步任务。基础版 LFM2.5-2.6B-Base 与后训练版 LFM2.5-2.6B 已在 Hugging Face 上线,并支持 llama.cpp、MLX、vLLM、SGLang、ONNX。
推荐理由:Liquid AI 公开了 2.6B 端侧智能体模型的训练流程与多基准对比,可据此判断本地 Agent 的可行边界。