Rocketknight1

Hugging Face Transformers v5.16.1 增加 GLM-5.3-Flash 多模态模型

Hugging Face 发布了其 Transformers 库的 5.16.1 版本，引入了 GLM-5.3-Flash 模型。这款新的多模态模型拥有 3200 亿总参数，但只有 180 亿活跃参数，相比其前身 GLM-5.2 提供了更高的性能和效率。GLM-5.3-Flash 采用稀疏注意力和线性注意力的混合架构，以降低长上下文服务的成本，并采用流形约束超连接 (mHC) 以提高扩展效率。此次发布还包括对张量并行和安全性的少量修复。