250K Plus

llama.cpp 性能通过优化线程数提升 80%

Reddit r/LocalLLaMA 子版块的一位用户通过调整 `--threads` 参数，在 llama.cpp 推理引擎中发现性能显著提升。最初认为在混合 CPU 设置中，将线程数限制为性能核心的数量是最优的。然而，使用 Gemma 4 26B A4B QAT 模型进行测试表明，在拥有 18 个核心（6 个性能核心，12 个效率核心）的 CPU 上将线程数增加到 16，性能提升了约 80%。这一发现表明，用户应该尝试超出性能核…