English(EN) Some llama.cpp B70 SYCL benchmarks

llama.cpp SYCL 基准测试显示 Gemma 和 Qwen 模型性能参差不齐

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-20 05:20

llama.cpp 项目使用 SYCL 后端进行了基准测试，展示了各种模型的性能指标。测试包括不同大小的 Gemma 4 模型（4.65B、11.91B 和 25.23B 参数）和 Qwen 35 模型（27.32B 和 34.66B 参数）。虽然 SYCL 后端功能正常，但结果表明性能仍有进一步优化的空间。 AI

影响为本地 LLM 推理的 SYCL 后端性能提供了见解，可能指导优化工作。

排序理由该条目详细介绍了特定软件实现 (llama.cpp) 使用特定后端 (SYCL) 和各种语言模型的性能基准测试。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

llama.cpp SYCL 基准测试显示 Gemma 和 Qwen 模型性能参差不齐

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/siegevjorn · 2026-06-20 05:20

Some llama.cpp B70 SYCL benchmarks

<div class="md">build: dd4623a74 (9640) | model | size | params | backend | ngl | test | t/s | | ------------------------------ | ---------: | ---------: | ---------- | --: | --------------: | -------------------: | | gemma4 12B Q8_0 | 11.78…

报道来源 [1]

Some llama.cpp B70 SYCL benchmarks

相关实体

相关话题