一位 r/LocalLLaMA 子版块的用户正在寻求关于在双 RTX 3090 设置上使用 vLLM 运行 Qwen 3.6-27B 模型的最优启动参数的建议。他们特别关注使用 NVLink 桥接和不使用 NVLink 桥接的配置，并倾向于使用更大的量化来保持生成质量而非 4 位压缩。该用户正在向拥有类似硬件的其他人询问具体的量化细节和确切的 vLLM 启动命令。 AI
排序理由 用户在论坛上生成的关于在特定硬件上运行特定模型的查询，缺乏更广泛的行业意义。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>Hi everyone. Please share your working launch commands for running Qwen 3.6-27B via vLLM on dual RTX 3090s (both running in PCIe 4.0 x8). I'm interested in setups both with and without an NVLink bridge.</p> <p>I'm familiar with the club-3090 repo…