llama.cpp 项目发布了 b11786 版本,更新了其 ggml-cpu 计算内核。这些更改侧重于通过移除对 fp16 表的需求来改进 f32 gelu_quick 和 geglu_quick 函数的计算,并引入了 VXE gelu_quick 路径。该版本还扩展了这些 CPU 内核的测试,并指出其兼容 macOS、Linux、Android 和 Windows 等多种操作系统,特别提到了 Apple Silicon 和 openEuler。 AI
影响 llama.cpp 计算内核的性能提升可能导致兼容模型的本地推理速度加快。
排序理由 特定项目(llama.cpp)的软件发布,改进了计算内核的性能。
- android
- Apple Silicon
- Claude Sonnet 5.5
- f32 gelu_quick
- geglu_quick
- ggml-cpu
- Linux
- llama.cpp
- macOS
- Microsoft Windows
- openEuler
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →