A3B-Q8_0

Qwen 3.6 35B模型在Radeon 7600 GPU上以21 token/秒的速度运行

Reddit用户在r/LocalLLaMA子版块分享了他们使用GGUF格式的Qwen 3.6 35B模型在Radeon 7600显卡上运行的经验。在超频VRAM并使用llama.cpp优化设置后，他们达到了每秒21个token的速度。用户还注意到一个奇怪的bug，即当应用程序窗口可见时，token生成速度会降低，而最小化时则会提高。