实体
Quantization-aware distillation
Quantization-aware distillation
PulseAugur coverage of Quantization-aware distillation — every cluster mentioning Quantization-aware distillation across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Liquid AI 发布 LFM2.5 模型的 QAD 版本，以实现高效的边缘部署
Liquid AI 发布了其 LFM2.5 系列小型 AI 模型的量化感知蒸馏 (QAD) 版本。新版本旨在减少内存使用量，同时最大限度地降低性能下降，使其更适合智能手机和笔记本电脑等低规格设备。QAD 技术涉及蒸馏高精度教师模型以提高量化学生模型的性能。四款 LFM2.5 模型（230M、350M、1.2B-Instruct 和 2.6B）已接受此 QAD 处理，并作为开放模型提供。
-
Liquid AI 发布 LFM2.5 模型的 QAD 检查点，提升边缘性能
Liquid AI 发布了其 LFM2.5 模型的新检查点，利用量化感知蒸馏 (QAD) 来提高性能。这些 QAD Q4_0 检查点在保持标准 Q4_0 GGUF 低内存占用和高吞吐量的同时，恢复了量化过程中约 97% 的精度损失。基准测试表明，这些新检查点在各种边缘硬件上具有改进的解码吞吐量，其质量可与 Q5_K_M 和 Unsloth 的 UD-Q4_K_XL 等其他量化方法相媲美或超越。