Janai

本地 LLM 用户寻求联网多 GPU 解决方案

一位 r/LocalLLaMA 子版块的用户正在寻找将两台独立电脑（一台配备 RTX 5090，另一台配备 RTX 4080）的处理能力结合起来运行大型语言模型的方法。他们正在寻找一个用户友好的客户端应用程序，类似于 LMStudio 或 JanAI 等现有工具，以促进这种联网 GPU 的使用。用户还询问了为什么似乎没有现成的解决方案来解决这个特定的用例。