一位用户成功地在单块未优化的 NVIDIA 3090 显卡上运行了 DSv4 Flash 0731 模型。该设置包括一块 E5 2690v4 CPU 和 3x32 DDR4 ECC RAM，3090 的功耗为 250W。模型在生成时达到了稳定的 5.45 tokens/秒，在提示处理时达到了 42 tokens/秒，考虑到硬件限制，用户认为这是可以接受的。 AI
影响 证明了在消费级硬件上运行先进模型的可行性，可能降低人工智能实验的门槛。
排序理由 用户在消费级硬件上成功运行模型。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vcpnzw/dsv4_flash_0731_running_on_unoptimized_single/"> <img alt="DSv4 Flash 0731 Running on Unoptimized Single 3090 System" src="https://preview.redd.it/eqqebec92sgh1.png?width=140&height=111&auto=we…