Reddit 的 r/LocalLLaMA 子版块的一位用户分享了包括 Qwen3.6 和 Gemma4 在内的各种大型语言模型的性能基准测试结果，这些模型运行在配备三块 GPU（一块 GTX 1080 Ti 和两块 P102-100）共计 31GB 显存的系统上。使用支持 Vulkan 的 llama.cpp 构建进行的基准测试，测量了不同模型大小和量化级别下每秒令牌数 (tg128) 和提示处理 (pp512) 的性能。结果显示每个模型具有不同的性能特征，其中一些模型的吞吐量高于其他模型。 AI
影响 提供了关于各种 LLM 在消费级硬件上实际性能的见解，帮助用户进行硬件选择和模型部署。
排序理由 用户生成的关于特定硬件上 LLM 性能的基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
