Liquid AI 发布 LFM2.5 系列 QAD Q4_0 量化检查点,恢复 97% 精度损失
LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation
AI 导读Liquid AI 发布基于量化感知蒸馏(QAD)训练的 LFM2.5-230M、350M、1.2B-Instruct 和 2.6B 四款 Q4_0 GGUF 检查点,在保持原生 Q4_0 内存与速度的同时,恢复 BF16 平均精度损失的 97%。
来源:Hugging Face 社区博客 · huggingface.co
事件后续1
查看事件全部- Liquid AI 发布 LFM2.5 系列 QAD Q4_0 量化检查点,恢复 97% 精度损失Hugging Face 社区博客 · 8 月 19 日