PulseAugur
中
实时 12:48:36
English(EN) Three 'e-waste' Nvidia V100s hit 100 tokens per second on Qwen 3.6 35B in a $1,042 homelab rig

二手Nvidia V100在1042美元的家庭实验室设备上以每秒100个token的速度驱动大型语言模型

一位家庭实验室爱好者展示了退役的Nvidia V100 GPU能够以令人印象深刻的速度有效地运行Qwen 3.6 35B等大型语言模型。通过在一个定制的1042美元设备中使用三块二手V100,构建者在64K及更长上下文长度下实现了大约每秒100个token的性能,超过了价值5399美元的M5 Max Mac Studio。该设置利用了“电子垃圾”GPU,即较旧的企业级显卡,并突显了它们在某些大型语言模型任务中的成本效益和出人意料的竞争力,特别是与现代高价替代品相比。 AI

影响 展示了运行大型语言模型的经济高效硬件解决方案,可能降低了高级AI实验的门槛。

排序理由 文章详细介绍了运行大型语言模型的特定硬件配置,而非新的模型发布或前沿研究。

在 Tom's Hardware 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

二手Nvidia V100在1042美元的家庭实验室设备上以每秒100个token的速度驱动大型语言模型

本文如何被排名

Signal score
23 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
文章详细介绍了运行大型语言模型的特定硬件配置,而非新的模型发布或前沿研究。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. Tom's Hardware TIER_1 English(EN) · Shane Downing ·

    三块“电子垃圾”Nvidia V100在1042美元的家用服务器上以每秒100个token的速度运行Qwen 3.6 35B

    A homelab builder runs Qwen 3.6 35B on three used Nvidia Tesla V100 GPUs at about 100 tokens per second, in a $1,042 build.