PulseAugur
中
实时 04:42:43

Unsloth 发布优化的 DeepSeek-V4-Flash-0731 GGUF 模型以供本地使用

作者 PulseAugur 编辑部 · [3 个来源] ·

Unsloth 发布了 DeepSeek-V4-Flash-0731 模型 GGUF 格式的优化版本，使其更易于在本地运行。这些模型与 llama.cpp、Ollama、LM Studio 和 Unsloth Studio 等各种流行推理工具兼容。性能基准测试表明，该模型可以在具有 40GB VRAM 的硬件上高效运行，生成速度超过每秒 16 个 token。 AI

影响 促进了更广泛的本地部署和对先进语言模型的实验。

排序理由 此次发布的是用于本地使用和现有推理工具的优化模型格式，而不是主要实验室发布的新前沿模型。

在 Hugging Face Trending Models 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

Unsloth 发布优化的 DeepSeek-V4-Flash-0731 GGUF 模型以供本地使用

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
此次发布的是用于本地使用和现有推理工具的优化模型格式，而不是主要实验室发布的新前沿模型。
Source corroboration
3 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
69 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [3]

  1. Hugging Face Trending Models TIER_1 English(EN) · unsloth ·

    unsloth/DeepSeek-V4-Flash-0731-GGUF

    0 downloads · 66 likes

  2. r/LocalLLaMA TIER_1 English(EN) · /u/Different-Pickle1021 ·

    DeepSeek-V4-Flash-0731 unsloth gguf on A100

    <!-- SC_OFF --><div class="md"><p>A100 with 40gb VRAM:</p> <ul> <li>162GB Q8_K_XL</li> <li>~16.1 tok/s generation</li> <li>Only 15.8GB of 40GB VRAM used with all experts on CPU</li> </ul> <p>NOTE just tested coding on linux box DeepSeek-V4-Flash-0731 runs losslessly on the single…

  3. r/LocalLLaMA TIER_1 English(EN) · /u/BlackBeardAI ·

    Unsloth Deepseek V4 0731 GGUF 已上线！

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vbtdok/unsloth_deepseek_v4_0731_ggufs_are_up/"> <img alt="Unsloth Deepseek V4 0731 GGUF's are UP!" src="https://external-preview.redd.it/wMZUsudfTHG534WgBRWwhtsK20jasRrxNGwenbWxNxM.png?width=640&amp;crop=smar…

相关实体

相关话题