PulseAugur
中
实时 22:06:22
English(EN) Betelgeuse: Running Qwen 3.8 Flash Next at 22 tok/s sustained (spiking to 48 tok/s) on an RTX 3060 12GB + 16GB DDR4 RAM 100% bit-exact!

Qwen 3.8 Flash Next 模型在消费级硬件上展现出显著的性能提升

作者 PulseAugur 编辑部 · [2 个来源] ·

用户报告称，在使用 Basalt 推理引擎时，Qwen 3.8 Flash Next 模型取得了令人印象深刻的性能提升。一位 Reddit 用户通过在 Linux 系统上切换到 Basalt，放弃了资源消耗更高的 Windows，实现了比以往模型显著更快的预填充速度和更好的质量。另一位用户演示了 Qwen 3.8 Flash Next 模型可以在更普通的硬件上以 22 tokens/秒 的持续速度运行，即配备 12GB VRAM 的 RTX 3060 和 16GB RAM，通过开发 llama.cpp 的一个名为 Betelgeuse 的新分支，该分支在不牺牲输出质量的情况下优化了专家路由和 VRAM 使用。 AI

影响 证明了通过优化的推理引擎和模型配置，在消费级硬件上实现显著的性能改进是可行的。

排序理由 用户开发的针对现有模型的优化和性能报告。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

Qwen 3.8 Flash Next 模型在消费级硬件上展现出显著的性能提升

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
用户开发的针对现有模型的优化和性能报告。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
3 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Rozzemak ·

    Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now.

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1xlicia/qwen_38_flash_next_nvfp4_on_64gb_ram_and_5090/"> <img alt="Qwen 3.8 Flash Next NVFP4 on 64gb RAM and 5090, Basalt. Ditched windows for it. Very hyped for qwen 4 model family now." src="https://external…

  2. r/LocalLLaMA TIER_1 English(EN) · /u/zyxciss ·

    Betelgeuse: Running Qwen 3.8 Flash Next at 22 tok/s sustained (spiking to 48 tok/s) on an RTX 3060 12GB + 16GB DDR4 RAM 100% bit-exact!

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1xk8s6z/betelgeuse_running_qwen_38_flash_next_at_22_toks/"> <img alt="Betelgeuse: Running Qwen 3.8 Flash Next at 22 tok/s sustained (spiking to 48 tok/s) on an RTX 3060 12GB + 16GB DDR4 RAM 100% bit-exact!" sr…

相关实体

相关话题