llama.cpp 项目发布了 b11909 版本,在多个平台上对 MUL_MAT_ID 操作进行了优化。这些改进包括向量化清零和为 hex-mmid 组件移除标量除法。发布说明详细介绍了 macOS、Linux、Android 和 Windows 的构建状态,其中一些配置(如 Apple Silicon 上的 KleidiAI 和某些 openEuler 构建)已被禁用。 AI
影响 在各种硬件平台上提升 AI 模型推理的性能。
排序理由 这是一个特定项目的软件发布,而非前沿模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →