qwen3_5

Qwen3.8-27B-Uncensored-FP8 模型支持在消费级 GPU 上进行本地 27B 推理

Qwen3.8-27B 模型的新 FP8 量化版本 Uncensored-FP8 在 Hugging Face 上广受欢迎。此优化显著降低了模型的内存需求，使得在内存有限的消费级 GPU 上运行一个拥有 270 亿参数的多模态语言模型成为可能。这一进展降低了个人和开发者在本地部署先进人工智能能力的门槛，无需高端数据中心硬件。