PulseAugur
实时 03:23:10
English(EN) I have 2x PC's. One with a 5090 and one with a 4080. Is there an easy way to use both together networked?

本地 LLM 用户寻求联网多 GPU 解决方案

一位 r/LocalLLaMA 子版块的用户正在寻找将两台独立电脑(一台配备 RTX 5090,另一台配备 RTX 4080)的处理能力结合起来运行大型语言模型的方法。他们正在寻找一个用户友好的客户端应用程序,类似于 LMStudioJanAI 等现有工具,以促进这种联网 GPU 的使用。用户还询问了为什么似乎没有现成的解决方案来解决这个特定的用例。 AI

影响 凸显了希望跨多台机器扩展本地 LLM 推理能力的用户在工具方面可能存在的差距。

排序理由 用户生成的技术挑战问题,关于在本地运行 LLM。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/F0UR_TWENTY ·

    我有两台电脑,一台配有 5090,另一台配有 4080。有没有简单的方法可以将它们网络连接起来一起使用?

    <!-- SC_OFF --><div class="md"><p>I have a 5090 PC with 64 gb DDR5 and a 4080 build with 192gb DDR5. </p> <p>I have heard methods of networking multiple PC's together, but is there a simple client that does this easily? </p> <p>If not, then can someone explain why there isn't one…