llama.cpp 项目的一个拉取请求引入了 ggml-hip 库，为 HIP 构建启用了 -ffast-math 编译器标志。在 RDNA3.5 GPU 上的基准测试显示，使用此标志时，Qwen3.5-27B 模型的性能提升高达 7%，Qwen3-0.6B 模型的性能提升高达 3.4%。在各种提示长度下都观察到了性能提升，在较短的提示长度下观察到了最显著的改进。 AI
影响 这项优化可能会加快在支持 HIP 的硬件上运行 llama.cpp 的用户的推理速度。
排序理由 这是大型项目 (llama.cpp) 中特定库 (ggml-hip) 的一个拉取请求，它使用编译器标志优化性能，而不是核心模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
