Qwen3.6-27B-UD-Q4_K_XL.gguf

双 GPU llama.cpp 测试揭示张量并行与流水线并行之间的 PCIe 传输差异

一位 Reddit 用户在双 GPU 设置下使用 llama.cpp 进行了测试，以测量不同并行策略下的 PCIe 传输速度。测试比较了张量并行和流水线并行配置，结果显示张量并行提供了更高的解码速度（47 t/s 对 30 t/s），而流水线并行实现了更快的预填充速度（1250 t/s 对 650 t/s）。用户得出结论，PCIe 延长线对于张量并行设置可能不是一个显著的瓶颈，并建议它们可能是未来硬件扩展的可行选择。