llama.cpp 项目已发布 b12550 版本,其中包含对其后端调度器测试的重大更新。此版本引入了初始调度器压力测试、用于简化测试的新 sleep 操作以及 GGML 操作的实验性 Vulkan 支持。更新还优化了现有测试,修复了与纯 CPU 设置和 Vulkan 测试失败相关的问题,并通过新的 RAII 类型改进了内存管理。此外,该版本还整合了代码审查的反馈,并调整了测试以更好地处理各种后端配置和潜在的时钟漂移。 AI
影响 提高了流行的推理引擎的测试和稳定性,可能带来更可靠的 LLM 性能。
排序理由 这是针对特定工具 (llama.cpp) 的软件发布,其中包括对其测试基础设施和后端支持的更新,而不是核心 AI 模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →