一位 r/LocalLLaMA 子版块的用户在添加第二个 RTX 3060 显卡后,在加载大型语言模型时遇到问题。此前,使用单个 3060 时,用户可以加载 Qwen3.6 27B、Qwen3.6 35B 和 Qwen3.5 122B 等模型并进行 CPU 卸载。然而,在安装第二个显卡后,只有密集模型能按预期加载,而 35B 模型仅加载了一次,122B 模型现在完全无法加载。用户正在寻求有关配置更改或故障排除步骤的建议,以解决此加载问题。 AI
排序理由 用户报告的本地运行 LLM 的硬件配置问题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →