Qwen1.5-72B

LLM 用户寻求关于升级到 40B+ 参数模型以提高速度和知识的建议

r/LocalLLaMA subreddit 上的一位用户正在寻求关于拥有超过 400 亿参数的大型语言模型 (LLM) 的推荐。他们目前使用的是 Qwen3.6 35B，但发现它缺乏通用知识，更像一个执行者而不是助手。用户正在考虑升级到 Qwen3.5 122B，但担心速度问题，因为他们在 Strix Halo 硬件上使用 131k 上下文窗口时，目前能达到大约 30-40 tokens/秒。