5060Tis

Qwen3.6-27B 模型在 4x 20GB 3080 GPU 上表现强劲

一位 Vast AI 用户使用四块 20GB 3080 显卡对 Qwen3.6-27B 模型进行了代码生成基准测试。测试显示性能令人印象深刻，该配置在接近最大上下文长度时达到每秒 69 个 token，在禁用提示缓存时预填充速度为每秒 893 个 token。用户认为，这种硬件配置，仅 GPU 和支持组件的成本约为 2,000 美元，为强大的代码生成机器提供了一个经济高效的解决方案。