lmstudio-community

Qwen 3.8 27B 模型现已支持本地使用，并优化了 KV 缓存

阿里巴巴集团发布的 Qwen 3.8 27B 模型现已可供本地运行，并详细列出了针对不同硬件配置的特定 GGUF 文件大小。其关键特性是混合注意力机制，其中 64 层中只有 16 层使用 KV 缓存，显著降低了长上下文的内存需求。用户必须正确实现模型的聊天模板并加载单独的 mmproj 文件以获得视觉能力，以避免性能问题并确保正常运行。