一位 r/LocalLLaMA 子版块的用户正在寻找将两台独立电脑(一台配备 RTX 5090,另一台配备 RTX 4080)的处理能力结合起来运行大型语言模型的方法。他们正在寻找一个用户友好的客户端应用程序,类似于 LMStudio 或 JanAI 等现有工具,以促进这种联网 GPU 的使用。用户还询问了为什么似乎没有现成的解决方案来解决这个特定的用例。 AI
影响 凸显了希望跨多台机器扩展本地 LLM 推理能力的用户在工具方面可能存在的差距。
排序理由 用户生成的技术挑战问题,关于在本地运行 LLM。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →