一位用户对 DeepSeek V4 Flash 模型进行了性能测试，使用了 fairydreaming/llama.cpp 分支，比较了两个量化级别（IQ3_XXS-AS 和 IQ2_S）。结果显示，尽管使用了更小的上下文窗口，IQ2_S 量化在初始提示评估和后续生成方面都更快。用户还发现，对于该模型，fairydreaming 分支相比 mainline llama.cpp 构建没有性能优势。 AI
影响 为在消费级硬件上运行 DeepSeek V4 Flash 的用户提供了实用的性能数据，有助于模型选择。
排序理由 用户进行的开源模型基准测试。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
