llama.cpp 项目发布了 b11923 版本,其中包含对其 GGML 库的更新。这些更改放宽了尺度操作,以支持跨 CPU、CUDA 和 Metal 等各种后端的非连续视图。该版本还针对这些平台进行了特定的优化和错误修复,Pascal 贡献了代码,dsh 在 Qwen3.8-Flash-Next-GGUF 模型上进行了测试协助。 AI
影响 提高了在各种硬件上本地 LLM 推理的性能和灵活性。
排序理由 这是一个特定工具的软件发布,而不是前沿模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →