用户创建并分享了 DeepSeek V4 Flash 模型的量化版本，专门针对 DwarfStar (DS4) 推理引擎进行了优化。这些 GGUF 文件旨在提供比标准 llama.cpp 实现更快的性能，一位用户报告在 MacBook M5 Max 上速度超过 30 tokens/秒。创建者正在寻求用户的反馈，特别是拥有 CUDA 或 ROCm 硬件的用户，以帮助改进量化并可能提高性能和去审查等功能。 AI
影响 为 DeepSeek V4 Flash 的本地推理提供了更快的速度，可能改进代理工作流程和可访问性。
排序理由 用户为特定推理引擎生成的现有模型的量化和分发。
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vc6xbu/deepseek_v4_flash_for_ds4_dwarfstar_gguf_w_dspark/"> <img alt="DeepSeek v4 Flash for DS4 (DwarfStar) GGUF w/ DSpark MTP Head" src="https://external-preview.redd.it/67koeE8MsZzKX5ZsLkYsjXhwk0yzJdv7Id0h_…
<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vburcs/deepseek_v4_flash_mxfp4_original_quality_ggufs/"> <img alt="Deepseek v4 flash MXFP4 (original quality) ggufs" src="https://external-preview.redd.it/cU_TC8_Hb5aJ5dzr8C_zYHJ0xYict6VnIuftD7H0DZo.png?width…
<!-- SC_OFF --><div class="md"><p>Could it happen now that it is open weight? I think it would complement Cursor well.</p> </div><!-- SC_ON -->   submitted by   <a href="https://www.reddit.com/user/CanYouTearMe"> /u/CanYouTearMe </a> <br /> <span><a href="https://www.redd…