Unsloth Qwen3.6-27B-MTP-GGUF
PulseAugur coverage of Unsloth Qwen3.6-27B-MTP-GGUF — every cluster mentioning Unsloth Qwen3.6-27B-MTP-GGUF across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新的 Qwen3.6-27B 量化优化至 16GB 显存,多 GPU 设置展现强劲性能
Qwen3.6-27B 模型发布了新的实验性量化版本,用于本地 LLM 推理,专注于优化 NVIDIA 显存为 16GB 的 GPU 性能。其中一个量化版本 IQ4_KS 调整了代码任务的逻辑,牺牲了通用知识;另一个版本 IQ4_KS_KT 利用 Trellis 算法提高效率。此外,另一位用户详细介绍了他们使用两块总计 64GB 显存的 Radeon R9700 GPU 运行 Qwen 3.6 27B Q8 MTP 模型,并支持大上下…
-
Jetson AGX Orin 64GB 使用 q8_0 量化可加快 LLM 预填充速度
一位用户在 r/LocalLLaMA 子版块分享了 Jetson AGX Orin 64GB 的性能观察结果,指出使用 q8_0 量化方法处理模型时,提示词处理速度明显快于 q6_k 和 q4_k_xl。该用户在最近的 llama.cpp 构建版本上使用 Unsloth Qwen3.6-27B-MTP-GGUF 模型进行了测试,观察到 q8_0 的速度提升超过 20%。他们推测,Jetson 的 CUDA 核心可能没有针对该特定硬件上…
-
Qwen发布27B多模态模型,用于高级编码
Qwen发布了Qwen3.6-27B,这是一款为高级编码任务设计的、参数量为270亿的密集多模态模型。该模型旨在提供旗舰级的智能体编码性能,超越了该类别中先前的开源模型。社区成员已在Hugging Face上提供了Qwen3.6-27B的各种量化版本,方便其在不同平台和库中使用。