PulseAugur
中
实时 16:19:44
English(EN) I built a server with 768GB VRAM for frontier, but all new frontier open source models are likely to be two trillion or above now, including next GLM 6, am I cooked?

我搭建了一个拥有 768GB 显存的服务器用于前沿模型，但所有新的前沿开源模型可能都将达到两万亿参数或以上，包括下一个 GLM 6，我是否完蛋了？

作者 PulseAugur 编辑部 · [1 个来源] ·

一位用户投资了 18,000 欧元购买了一台拥有 768GB 显存和十二块 64GB GPU 的服务器，原本计划用于运行大型前沿开源 AI 模型。然而，他们发现即使是像 DeepSeek V4 Pro 这样的当前先进模型也对他们的设备来说太大了，而未来的模型如 GLM 6 预计将更大。这让用户开始质疑是否应该放弃他们的... AI

排序理由 [lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

我搭建了一个拥有 768GB 显存的服务器用于前沿模型，但所有新的前沿开源模型可能都将达到两万亿参数或以上，包括下一个 GLM 6，我是否完蛋了？

本文如何被排名

Signal score
3 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/myreala ·

    我搭建了一个拥有768GB显存的服务器用于前沿模型，但现在所有新的前沿开源模型可能都在两万亿参数以上，包括下一个GLM 6，我完蛋了吗？

    <!-- SC_OFF --><div class="md"><p>This epyc server cost me €18k to build and I am using twelve cards with 64 GB memory, plus 256GB ram. Looking at the most capable models in open source, GLM 5.3 seems to be the only option, but with Astra releasing it will likely be fairly behind…