14700KF

Intel 混合 CPU 用户可通过 Strata 校准将 LLM 解码速度提高三倍

Reddit 用户在 r/LocalLLaMA 子版块分享了一个“PSA”（公告），建议使用 Intel 混合 CPU 的用户运行 Strata 的校准工具。据称，此校准将其本地 LLM 解码速度提高了近三倍，性能从每秒 17.2 个 token 提升到超过 53 个 token/秒。用户详细说明了具体的配置更改，包括调整工作池、推测解码设置和 PCIe 分数，这些都促成了显著的速度提升。