GLM-5.2 模型通过 colibri 引擎更新以实现更快的推理速度

Hugging Face 上发布了 GLM-5.2 模型的新版本，名为“colibri int4 with int8 mtp”。此版本基于原始 GLM-5.2 模型，并采用了 int8 MTP 头部，旨在通过推测性解码显著提高推理速度。该模型需要 colibri 引擎才能运行，并且与 GGUF 或 AWQ 等标准格式不兼容。它在 MIT 许可下分发。 AI

影响 提供潜在的推理速度提升，需要特定的引擎兼容性。

排序理由 发布了具有性能改进的特定模型变体，并非来自前沿实验室。[lever_c_demoted from research: ic=1 ai=1.0]

在 Hugging Face Trending Models 阅读 →

• colibri
• GLM-5.2
• jlnsrk/GLM-5.2-colibri-int4
• mateogrgic/GLM-5.2-colibri-int4-with-int8-mtp
• zai-org/GLM-5.2-FP8

• 模型发布
• 基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →