P100s

Reddit 用户分析 GPU 规格以实现 LLM 预填充性能

r/LocalLLaMA 上的一个 Reddit 用户分析了各种 GPU 和机器在运行大型语言模型方面的适用性，强调了预填充性能相对于原始生成速度的重要性。分析表明，虽然像 3090 这样的高端 GPU 对于单流使用来说可能有点过头，但像 P100 这样的旧卡因其内存和带宽而具有显著价值。用户还指出，与其它选项相比，Mac Studio 定价过高且效率低下，并正在寻求用户提交的功耗数据以进一步完善其性能图表。