llama.cpp 项目已发布 b11857 版本,对其 GGML 库进行了一些更新。主要变化包括允许 MUL_MAT_ID 索引跳过计算,改进 Vulkan 和 ggml-webgpu 代码,并修复了 CUDA 和 OpenVINO 集成问题。该版本还指出从特定 PR 中排除了 CUDA,并包含一个用于未来工作的 TODO 标签。 AI
影响 改进了在本地运行 AI 模型的底层基础设施。
排序理由 这是一个特定项目的软件发布,而不是前沿模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →