unsloth/Qwen3.8-27B-NVFP4
PulseAugur coverage of unsloth/Qwen3.8-27B-NVFP4 — every cluster mentioning unsloth/Qwen3.8-27B-NVFP4 across labs, papers, and developer communities, ranked by signal.
-
新工具诊断 NVIDIA Blackwell GPU 上的大语言模型服务问题
一款名为 `blackwell-doctor` 的新工具已被开发出来，用于帮助诊断和解决在大语言模型（LLM）部署于 NVIDIA Blackwell GPU 上的服务问题。该工具系统地测试各种配置，包括不同的运行时（如 vLLM 和 SGLang）、MoE 后端、量化方法和上下文长度。它着重展示了这些设置的细微变化如何导致性能、内存使用量甚至模型稳定性方面的显著差异，并提供详细的比较，识别出解决问题行为的具体提交或标志。
-
SGLang 错误导致 FP8 lm_head 模型无限重复
SGLang 提交 5375babb 之前的版本中存在一个错误，在使用 FP8 lm_head 配置（例如 unsloth/Qwen3.8-27B-NVFP4）的模型时，会导致无限重复和空响应。此问题源于 SGLang 错误地处理 lm_head 组件，导致 logit 排名损坏。该问题在服务器启动时不会显现，唯一的迹象是在服务器加载日志中出现特定警告。该修复已于 2026 年 8 月 19 日合并到 SGLang 的主分支，但尚未包…
-
Qwen3.8-27B 模型通过激进的 NVFP4 量化实现了接近 BF16 的性能
一个名为 Qwen3.8-27B-QUASAR-NVFP4 的 Qwen3.8-27B 模型的新完全量化版本已发布。该模型采用了一种名为 QUASAR 的新型量化感知蒸馏 (QAD) 算法，对所有线性层实现了激进的 NVFP4 量化。尽管量化程度很高，该模型在 GPQA-Diamond 和 AIME26 等基准测试中仍表现出与原始 BF16 版本相当的性能，同时将其大小显著减小到 19.7 GB。