llama.cpp 项目发布了 b12314 版本,其中包含针对 Adreno GPU 的重要 OpenCL 优化。这些更新通过启用 FA 分解的直接 PV 并将 X2E 分解的 FA 扩展到更小的头和批次,专注于提高分解 FA(可能指特定的矩阵乘法或注意力机制)的性能。该版本还整合了 Claude Opus 5.5 和 Codex 在代码生成和优化方面的协助。 AI
影响 提高 llama.cpp 用户在特定硬件上的推理性能。
排序理由 这是一个特定项目(llama.cpp)的软件发布,包含使用特定 API(OpenCL)针对硬件(Adreno GPU)的优化,而不是核心 AI 模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →