PulseAugur
中
实时 16:28:56
English(EN) Dual GPUs - 3060 & 3090 on a P520

用户寻求关于本地 LLM 推理双 GPU 设置的建议

作者 PulseAugur 编辑部 · [1 个来源] ·

r/LocalLLaMA subreddit 上的一位用户正在寻求关于配置双 GPU 设置以在本地运行大型语言模型的建议。他们计划在 ThinkStation P520 工作站中将新的 NVIDIA RTX 3090 与现有的 RTX 3060 结合使用。主要目标是实现 36GB 的 VRAM 以提高模型性能，同时考虑使用 Manjaro Linux 和 llama.cpp 的电源限制和软件兼容性。 AI

排序理由 这是一个关于本地 LLM 推理特定硬件配置的用户生成问题，而不是新发布、重大行业事件或研究论文。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Positive-Stock6444 ·

    双 GPU - P520 上的 3060 和 3090

    <!-- SC_OFF --><div class="md"><p>I've got a line on a reasonably priced 3090FE and I'm wondering whether it would play nicely with the 3060 I'm already using. </p> <p>System is a ThinkStation P520 - PSU would be an issue until I can get a replacement, so would have to run both G…

相关实体

相关话题