llama.cpp 项目已发布 b12465 版本,其中包括对其 SYCL 后端的优化。此次更新在 ravel 和 unravel 操作的 bin-bcast 内核中,用快速除法替换了每个元素的模运算。此外,它还移除了未使用的内核参数,并在计算魔术值时添加了检查,以拒绝不适合 32 位的值,这与 CUDA 实现实践一致。 AI
影响 对特定推理库的次要优化,不太可能产生广泛的行业影响。
排序理由 这是特定项目的软件更新,并非重大的行业发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →