llama.cpp 项目的最新更新,特别是 b12608 版本,解决了其 ggml-cpu 组件中的一个关键错误。该问题涉及 tinyBLAS_PPC_Q0 实现中不正确的矩阵乘法对齐,导致推理输出混乱。此修复解决了在某些 'n' 值下对齐逻辑失败,导致平铺路径被选中但平铺宽度无效的问题。在运行 Flint Q4_K_M 和 Gemma 3 27B Instruct 等模型时观察到了不正确的计算。 AI
影响 修复了导致特定模型推理结果不正确的错误,提高了 llama.cpp 项目的可靠性。
排序理由 这是对开源项目特定组件的错误修复,而不是新的模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →