Giles Thomas

GPU基准测试揭示 Qwen、Gemma 和 gpt-oss 本地大模型性能

本文提供了包括 Qwen3.8、Qwen3.6、Gemma 4 和 gpt-oss 在内的几款开源大语言模型在不同 GPU 上的实测生成速度。文章详细介绍了不同模型大小和架构（密集型 vs. 混合专家模型）的每秒 token 性能，并强调了显存带宽、量化和推测解码等因素的影响。该分析旨在帮助用户确定哪些硬件适合在本地运行这些模型，并根据具体的模型需求和 GPU 功能提供建议。