PulseAugur
实时 19:04:43
English(EN) Step 3.7 Flash Config + Early Data on 2x RTX 6000's

RTX 6000 Blackwell GPU 在 Step 3.7 Flash 下进行测试

一位 Reddit 用户分享了在两块 Blackwell RTX 6000 显卡上运行 Step 3.7 Flash 的早期数据和配置详情。该帖子包含了一般推理的每秒 token 数的初步读数,并链接到一个包含测试结果和设置信息的 GitHub 存储库。计划进行进一步的扩展基准测试。 AI

影响 为特定的硬件和软件配置提供了早期的性能数据,对本地 LLM 运营商有用。

排序理由 用户生成的硬件/软件设置基准和配置数据。[lever_c_demoted from research: ic=1 ai=0.7]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

RTX 6000 Blackwell GPU 在 Step 3.7 Flash 下进行测试

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Signal_Ad657 ·

    Step 3.7 闪存配置 + 2x RTX 6000 的早期数据

    <!-- SC_OFF --><div class="md"><p>Setup Step 3.7 Flash on two Blackwell RTX Pro 6000's and got it running and recorded the configs and settings as well as early data and readings like tokens per second on general inference. Running extended bench tests now just wanted to get this…