PulseAugur
中
实时 01:27:37
English(EN) Joined the 4x R9700 Club | Initial Benchmarks for QFN 3.8 Below

用户为 Qwen 3.8 FN 模型构建了价值 16,000 加元的配备多 GPU 的服务器

一位用户使用四块 AMD R9700 GPU 构建了一个强大的多用户推理服务器,成本约为 16,000 加元。该系统配置了 EPYC 7402P CPU 和 128GB RAM,Qwen 3.8 FN 模型的初步基准测试显示出有希望的性能。具体来说,无论用户数量如何,服务器在预填充操作中可以处理大约 6,800 个 token/秒,并且代理跟进操作的处理速度为每个用户 80-225 个 token/秒,即使有多达 8 个用户各自管理 128K 的上下文。 AI

影响 展示了在消费级硬件上实现高并发、长上下文推理的潜力。

排序理由 用户构建的硬件配置和特定模型的基准测试结果。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

用户为 Qwen 3.8 FN 模型构建了价值 16,000 加元的配备多 GPU 的服务器

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
用户构建的硬件配置和特定模型的基准测试结果。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
1 days old
Coverage has settled into its steady-state source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Anarchaotic ·

    加入 4x R9700 俱乐部 | QFN 3.8 初始基准测试如下

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1xrcia4/joined_the_4x_r9700_club_initial_benchmarks_for/"> <img alt="Joined the 4x R9700 Club | Initial Benchmarks for QFN 3.8 Below" src="https://preview.redd.it/m1hd0vwe4h0i1.jpeg?width=640&amp;crop=smart&am…