llama.cpp 项目发布了 b11845 版本,该版本修复了在实现分块 CUDA 图后使用 CUDA 构建的问题。此更新解决了与 CUDA 图功能相关的问题,并采纳了 Johannes Gaessler 和 Johannes Gäßler 的建议。该版本还修复了 common.cuh 中的换行符问题。 AI
影响 改进了使用 CUDA 时 llama.cpp 的构建过程,可能使在 NVIDIA 硬件上使用大型语言模型的开发人员受益。
排序理由 这是开源项目的一次小版本发布,侧重于基础设施改进。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →