Qwen3.8-Flash-Next 模型的新版本 GSQ-RCO 已发布,文件尺寸显著减小,同时保持接近基线的质量。此量化方法将模型尺寸从约 80-95GB 降低到 68-76GB。其中 Q2_0 变体因其速度而受到关注,声称在编码任务中提示吞吐量比其他量化格式提高了高达 6.2 倍,并改善了整体延迟。 AI
影响 此次发布提供了更高效的 Qwen3.8-Flash-Next 版本,可能使其在资源受限设备上得到更广泛的应用,并提高特定任务的推理速度。
排序理由 发布了具有性能基准的新模型量化。
在 Hugging Face Trending Models 阅读 →
- GGUF
- GSQ-RCO
- Qwen3.8-Flash-Next
- Google Colab
- Hugging Face
- ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
- Jan
- Kaggle
- llama.cpp
- LM Studio
- Ollama
- OpenAI
- Raspberry Pi
- Unsloth Desktop
- vLLM
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →