English(EN) DeepSeek-V4.1-Flash (UD-Q4_K_XL) on 4x 3090 + EPYC: 12 → 25 tok/s prose, 39 tok/s code.

DeepSeek-V4.1-Flash 在代码上实现 39 token/秒，用户优化 · 跟踪 1 个来源

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-20 13:32

一位 Reddit 用户分享了 DeepSeek-V4.1-Flash 模型（特别是 UD-Q4_K_XL 量化版本）的性能基准测试，该模型运行在包括 AMD EPYC CPU 和四块 RTX 3090 GPU 在内的强大硬件配置上。用户详细介绍了具体的命令行优化和配置，例如将整个模型加载到 RAM 中并利用 DSpark 进行推测解码。这些优化带来了显著的速度提升，文本生成速度最高达到每秒 24.6 个 token，代码生成速度达到每秒 39.3 个 token。 AI

影响展示了通过用户驱动的优化和硬件配置，在本地部署 LLM 方面取得性能提升的潜力。

排序理由用户分享的关于特定模型量化在自定义硬件上的性能基准测试和优化技巧。

在 r/LocalLLaMA 阅读 →

基础设施

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

DeepSeek-V4.1-Flash 在代码上实现 39 token/秒，用户优化 · 跟踪 1 个来源

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 用户分享的关于特定模型量化在自定义硬件上的性能基准测试和优化技巧。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 5 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

r/LocalLLaMA TIER_1 English(EN) · /u/C0smo777 · 2026-10-20 13:32

DeepSeek-V4.1-Flash (UD-Q4_K_XL) on 4x 3090 + EPYC: 12 → 25 tok/s prose, 39 tok/s code.

<div class="md"><p>Hi all, just wanted to share some benchmarks. I got Unsloth's UD-Q4_K_XL quant of DeepSeek-V4.1-Flash-1017 running and spent some time tuning it. Some of what I found isn't in the guide, so here are my notes.</p> <h2>Hardware</h2> <ul> <li>EPYC 9…

本文如何被排名

报道来源 [1]

DeepSeek-V4.1-Flash (UD-Q4_K_XL) on 4x 3090 + EPYC: 12 → 25 tok/s prose, 39 tok/s code.

相关实体

相关话题