Ollama 发布了 v0.32.10-rc0 版本，对双精度 NVFP4 模型进行了优化。此次更新将乘法和转换操作合并为单个内核，减少了独立即时操作的开销。在 M5 Max 上的基准测试显示，Qwen3.6-27B 和 muse-glimmer:30b 等模型的预填充操作性能提高了约 6.7% 至 7.9%，而推测解码性能则不受影响。 AI
影响 提高了特定模型类型的推理速度，可能使运行本地 LLM 的用户受益。
排序理由 这是一个开源工具的软件发布，它提高了性能，但不代表新的前沿模型或重大的行业转变。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
