Qwen 模型的新版本已发布,特别是 122B-A10B 变体。此版本针对 AMD 的 ROCm 平台进行了优化,并采用了 iMatrix 量化方法,解码速度达到 28.50 token/s。与先前版本相比,该模型体积减小了 13.47 GB,解码速度提高了 36.89%,拥有 100 亿个活跃参数。 AI
影响 为 AMD 硬件上的 AI 模型提供了改进的性能和更小的体积。
排序理由 发布了具有性能优化的特定模型变体。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →