PulseAugur
实时 21:34:26
English(EN) Is it possible to run Qwen 122B in 64GB ram + 24gb vram ? If so, how ?

用户询问在 64GB 内存、24GB 显存上运行 Qwen 122B 的可能性

r/LocalLLaMA subreddit 上的一位用户正在咨询使用特定硬件配置运行 Qwen 122B 大型语言模型的可行性。考虑到他们拥有 64GB 内存和 24GB 显存,他们正在寻求关于实现这一目标的必要设置的指导。 AI

排序理由 这是一个关于在给定硬件上运行特定模型的论坛用户提问,并非新闻事件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

用户询问在 64GB 内存、24GB 显存上运行 Qwen 122B 的可能性

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/soyalemujica ·

    Is it possible to run Qwen 122B in 64GB ram + 24gb vram ? If so, how ?

    <!-- SC_OFF --><div class="md"><p>Which settings would suffice to work with it ?</p> </div><!-- SC_ON --> &#32; submitted by &#32; <a href="https://www.reddit.com/user/soyalemujica"> /u/soyalemujica </a> <br /> <span><a href="https://www.reddit.com/r/LocalLLaMA/comments/1uts3ly/i…