llama.cpp 项目已发布 b12300 版本,包含多项优化和特定图节点的移除。值得注意的是,该版本移除了非融合 GDN 和 ubatch 依赖的图节点,并确保 graph_max_nodes 不再依赖于 ubatch 大小。这些更改旨在简化构建过程并可能提高性能。 AI
影响 对特定 AI 项目的次要基础设施更新,不太可能产生广泛的行业影响。
排序理由 这是特定项目的软件发布,而非前沿模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →