PulseAugur
实时 09:07:34
English(EN) Devs - you have 64gb of VRAM - which model do you use for coding?

拥有 64GB 显存的开发者讨论首选编程模型

拥有 64GB 显存的开发者正在讨论他们首选的编程任务模型。一位用户强调了他们对 Qwen 3.5 122b-a10b 模型的一个 unsloth 版本的满意度,并指出了其性能和大的上下文窗口。该用户还提到了使用 Qwen 3.6 模型,并正在寻求具有类似硬件能力的其他人的意见。 AI

影响 为高端硬件上的本地 LLM 部署提供了当前用户偏好的见解。

排序理由 用户讨论特定硬件的模型偏好,而非新发布或重要的行业事件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

拥有 64GB 显存的开发者讨论首选编程模型

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Jorlen ·

    开发者们——你们有 64GB 显存——会用哪个模型来编程?

    <!-- SC_OFF --><div class="md"><p>I've currently settled on an unsloth version of Qwen 3.5 122b-a10b model (UD-IQ4_NL). With 100k bf16 context window, I only had to load a few layers into CPU/RAM, it runs around 30 tok/sec which is fine for me.</p> <p>I've tested many models, hou…