Reddit的r/LocalLLaMA板块的一名用户正在询问,是否有可能使用一块翻新的13-GPU ASRock挖矿主板来运行本地大语言模型(LLMs)。该用户计划为该主板配备多块RTX 3090 GPU,用于Qwen和DeepSeek等模型的推理任务。他们正在寻求关于由于PCIe x1插槽可能导致的性能瓶颈的建议,以及这种设置是否是EPYC或Threadripper等传统工作站平台的 viable 替代方案。 AI
影响 探讨了使用翻新挖矿硬件进行本地大模型推理的潜力,影响了爱好者的成本效益。
排序理由 用户询问关于为AI任务翻新硬件的事宜。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →