PulseAugur
实时 19:57:33
English(EN) Dual 3060 MoE loading issue.

用户在添加第二个 RTX 3060 GPU 后遇到 LLM 加载问题

一位 r/LocalLLaMA 子版块的用户在添加第二个 RTX 3060 显卡后,在加载大型语言模型时遇到问题。此前,使用单个 3060 时,用户可以加载 Qwen3.6 27BQwen3.6 35BQwen3.5 122B 等模型并进行 CPU 卸载。然而,在安装第二个显卡后,只有密集模型能按预期加载,而 35B 模型仅加载了一次,122B 模型现在完全无法加载。用户正在寻求有关配置更改或故障排除步骤的建议,以解决此加载问题。 AI

排序理由 用户报告的本地运行 LLM 的硬件配置问题。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

用户在添加第二个 RTX 3060 GPU 后遇到 LLM 加载问题

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/esw123 ·

    Dual 3060 MoE loading issue.

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1utqnij/dual_3060_moe_loading_issue/"> <img alt="Dual 3060 MoE loading issue." src="https://preview.redd.it/tn1odjqx0nch1.png?width=140&amp;height=140&amp;crop=1:1,smart&amp;auto=webp&amp;s=dcfc7e07dec6dd7e39c…