PulseAugur
中
实时 02:35:26
English(EN) Two PCs but one with only RAM? or divide GPUs across pcs?

用户寻求跨两台PC池化GPU和RAM以进行LLM推理

一位Reddit用户正在寻求关于如何最好地利用两台PC来运行大型语言模型的建议,特别是关注如何池化它们的资源。该用户有一台PC,配备94GB RAM和两块GPU(一块5070 TI和一块12GB的3060),以及第二台PC,配备64GB RAM。他们正在考虑通过以太网连接这两台PC,并使用llama.cpp的RPC功能来合并它们的处理能力,或者是否将GPU保留在主PC上,而将第二台PC仅用于额外的RAM会更有效。 AI

排序理由 这是一个关于运行LLM硬件配置的论坛用户查询,不是新闻事件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

用户寻求跨两台PC池化GPU和RAM以进行LLM推理

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Meme
这是一个关于运行LLM硬件配置的论坛用户查询,不是新闻事件。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/No_Cartographer3953 ·

    两台电脑但一台只有内存?还是在电脑之间分配GPU?

    <!-- SC_OFF --><div class="md"><p>PC1:<br /> -94gb DDR5</p> <p>-5070 TI + 3060 (12gb) gpus (using a motherboard that is specifically designed for duel gpus</p> <p>PC2:</p> <p>64gb DD4 RAM</p> <p>PC1 is new, I've been running strata for running larger MoEs but I'm curious about tr…