RTX 3060 Ti

LocalLLaMA 用户寻求 Gemma 4 速度优化技巧

一位 r/LocalLLaMA 子版块的用户正在寻求关于优化其设置以加快 Google Gemma 4 模型 token 生成速度的建议。他们目前最高速度提升了 33%，达到每秒 100 个 token，并希望找到提高此性能的方法。该用户详细介绍了他们的硬件配置，包括双 RTX 3060 Ti GPU，以及他们在使用 llama.cpp 时使用的特定命令行参数。