一位 Reddit r/LocalLLaMA 用户报告称，Unsloth 的 Gemma 4 mmproj 文件导致较新版本的 llama.cpp 中多模态功能（如视觉和音频处理）失效。该问题表现为模型在处理图像和音频输入时，输出的是未使用的 token 而非有意义的结果。用户推测，这种不兼容性源于 Unsloth 的 mmproj 文件独立转换流程未能跟上 llama.cpp 内部多模态 token 处理的变化，而官方 GGUF 模型则由同一组织维护。 AI
影响 凸显了在使用第三方模型量化版本时，与不断发展的推理引擎可能出现的兼容性问题。
排序理由 用户报告的特定软件组件兼容性问题。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
