llama.cpp 项目发布了 b11720 版本,该版本增加了对多个后端上非连续 SUM 操作的支持。此次更新通过在中央处理单元 (CPU)、CUDA、Vulkan 和 WebGPU 上启用这些操作来提高性能。该版本还包含新的测试,以验证 SUM 在非连续视图上的功能。 AI
影响 提高了在各种硬件后端上进行 AI 模型推理的计算效率。
排序理由 这是一个特定工具的软件发布,而不是前沿模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →