Liquid AI Blog·原文发布· 2026-08-19AI 评分39
LFM2.5 Q4_0:面向边缘部署的量化感知蒸馏
LFM2.5 Q4_0: Quantization-Aware Distillation for Edge Deployment
AI 导读
Liquid AI 发布 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 的 4-bit Q4_0 检查点,采用量化感知蒸馏(QAD)训练,在保持 Q4_0 GGUF 低内存与高吞吐的同时恢复大部分量化损失精度,四款模型平均达到 BF16 的约 97%。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 Liquid AI Blog · liquid.ai