llama.cpp 项目发布了 b12092 版本,引入了 DSV4_HC_PRE 和 DSV4_HC_POST 的新操作。这些更新包括双缓冲 DMA 的优化、内核参数的预计算以及对不同数量 HC 值的支持。该版本还添加了一个用于测试 llama 架构的工具,并使用 qwen4ext 进行了特定测试。 AI
影响 对 llama.cpp 的优化可能会提高支持模型的推理性能。
排序理由 这是一个特定项目的软件发布,而不是前沿模型发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →