PulseAugur
实时 04:29:25

Qwen3.5 122B 模型针对 AMD ROCm 进行了优化,支持 iMatrix

Qwen 模型的新版本已发布,特别是 122B-A10B 变体。此版本针对 AMD 的 ROCm 平台进行了优化,并采用了 iMatrix 量化方法,解码速度达到 28.50 token/s。与先前版本相比,该模型体积减小了 13.47 GB,解码速度提高了 36.89%,拥有 100 亿个活跃参数。 AI

影响 为 AMD 硬件上的 AI 模型提供了改进的性能和更小的体积。

排序理由 发布了具有性能优化的特定模型变体。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Qwen3.5 122B 模型针对 AMD ROCm 进行了优化,支持 iMatrix

报道来源 [1]

  1. r/LocalLLaMA TIER_1 Deutsch(DE) · /u/RedParaglider ·

    Qwen3.5 122B-A10B · ROCmFP4 iMatrix

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1uxqgke/qwen35_122ba10b_rocmfp4_imatrix/"> <img alt="Qwen3.5 122B-A10B · ROCmFP4 iMatrix" src="https://external-preview.redd.it/ZsQ_oZPwDooHQBEezFxzVMx6hoV0k-R6aKCK1uBgaUk.png?width=640&amp;crop=smart&amp;auto…