Model Optimizer
PulseAugur coverage of Model Optimizer — every cluster mentioning Model Optimizer across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Nvidia发布量化版Qwen3.8-Flash-Next模型以支持本地AI部署
Nvidia发布了阿里巴巴Qwen3.8-Flash-Next模型的量化96 GiB版本,该模型已针对本地AI硬件和商业用途进行了优化。这款名为nvidia/Qwen3.8-Flash-Next-FP4-Local的FP4 QAD(量化感知蒸馏)模型,使用了Nvidia的模型优化器,并提供了高达100万token的上下文长度。虽然在GPQA Diamond基准测试中,其准确性相比之前的BF16版本略有下降0.7个点,但它专为AI代理系…
-
NVIDIA 为 Blackwell 系统发布 GLM-5.3-Flash 和 Qwen3.8-27B
NVIDIA 发布了两款针对其 Blackwell 系统优化的新模型:GLM-5.3-Flash 和 Qwen3.8-27B。GLM-5.3-Flash 是一个 320B 参数的 MoE 模型,拥有 18B 激活参数,支持多模态任务和 1M 上下文窗口,并采用 MIT 许可证发布。Qwen3.8-27B 是一个 27B 参数的模型,提供 NVFP4/FP8 量化版本,在代理和多模态任务上实现了接近 BF16 的精度,拥有 262K 上…
-
Nvidia 发布量化版 Alibaba Qwen3.8-27B 模型,用于 AI 代理
Nvidia 发布了 Alibaba 的 Qwen3.8-27B 语言模型的量化版本,该版本针对 AI 代理系统和其他应用程序进行了优化。此模型名为 nvidia/Qwen3.8-27B-NVFP4,利用 Nvidia 的 Model Optimizer 进行量化,并设计用于在 Nvidia GPU 加速系统上高效运行。它支持高达 262K 的上下文长度,并在推理、编码和多模态任务等各种基准测试中进行了评估。
-
Nvidia 发布 GLM-5.3-Flash NVFP4 多模态模型,支持 1M 上下文
Nvidia 发布了 GLM-5.3-Flash NVFP4 模型,这是 ZAI 的 GLM-5.3-Flash 的量化版本。这款多模态混合专家模型专为推理、编码和智能体任务设计,采用混合注意力架构,支持高达 100 万个 token 的上下文长度。该模型针对 NVIDIA 硬件进行了优化,提供更快的训练和推理速度,并兼容 vLLM 和 SGLang 等各种运行时引擎以及 NVIDIA Blackwell 微架构。
-
NVIDIA 量化 Alibaba 的 Qwen3.6-35B 模型以实现高效部署
NVIDIA 发布了 Alibaba 的 Qwen3.6-35B-A3B 模型的量化版本,命名为 nvidia/Qwen3.6-35B-A3B-NVFP4。该模型使用 NVFP4 数据类型,将内存需求减少约 3.06 倍,同时在各种基准测试中保持了有竞争力的性能。它针对 AI 代理系统、聊天机器人和 RAG 系统进行了优化部署,并已准备好商用。