boxwrench

用户寻求修复 Gemma 4 31B 模型重复输出 token 的问题

一位 Reddit r/LocalLLaMA 版块的用户正在寻求运行 Gemma 4 31B QAT GGUF 模型的帮助。尽管成功加载了主模型和 MTP 助手头，但模型始终输出重复的 \u003Cunused49\u003E token，而不是连贯的文本。用户尝试了各种配置，包括不同的模型文件、本地兼容性修复和命令行参数，但尚未找到可行的解决方案。