Hugging Face 上发布了 GLM-5.2 模型的新版本，名为“colibri int4 with int8 mtp”。此版本基于原始 GLM-5.2 模型，并采用了 int8 MTP 头部，旨在通过推测性解码显著提高推理速度。该模型需要 colibri 引擎才能运行，并且与 GGUF 或 AWQ 等标准格式不兼容。它在 MIT 许可下分发。 AI
影响 提供潜在的推理速度提升，需要特定的引擎兼容性。
排序理由 发布了具有性能改进的特定模型变体，并非来自前沿实验室。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Trending Models 阅读 →
- colibri
- GLM-5.2
- jlnsrk/GLM-5.2-colibri-int4
- mateogrgic/GLM-5.2-colibri-int4-with-int8-mtp
- zai-org/GLM-5.2-FP8
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
