llama.cpp 项目发布了 b12433 版本,解决了 AMD 设备上 MUL_MAT_ID 操作的特定问题。此修复确保该操作能够正确处理具有奇数列的矩阵(在使用 bfloat16 等格式时),从而防止在某些 LoRA 配置下发生的中止。此次更新(借助 GitHub Copilot 完成)还包括了对各种操作系统和硬件架构更广泛的兼容性和测试。 AI
影响 提高在 AMD 硬件上运行 llama.cpp 的用户的稳定性和性能。
排序理由 软件发布,解决了开源项目中的特定错误。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →