PulseAugur
中
实时 05:05:57
English(EN) Unsloth's Gemma 4 mmproj silently broke vision & audio on newer llama.cpp builds — anyone else hit this?

Unsloth Gemma 4 mmproj 破坏 llama.cpp 多模态功能

作者 PulseAugur 编辑部 · [1 个来源] ·

一位 Reddit r/LocalLLaMA 用户报告称，Unsloth 的 Gemma 4 mmproj 文件导致较新版本的 llama.cpp 中多模态功能（如视觉和音频处理）失效。该问题表现为模型在处理图像和音频输入时，输出的是未使用的 token 而非有意义的结果。用户推测，这种不兼容性源于 Unsloth 的 mmproj 文件独立转换流程未能跟上 llama.cpp 内部多模态 token 处理的变化，而官方 GGUF 模型则由同一组织维护。 AI

影响 凸显了在使用第三方模型量化版本时，与不断发展的推理引擎可能出现的兼容性问题。

排序理由 用户报告的特定软件组件兼容性问题。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Unsloth Gemma 4 mmproj 破坏 llama.cpp 多模态功能

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
用户报告的特定软件组件兼容性问题。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
product, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
54 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Top_Speaker_7785 ·

    Unsloth 的 Gemma 4 mmproj 在较新 llama.cpp 构建版本中悄然破坏了视觉和音频功能 — 还有其他人遇到此问题吗？

    <!-- SC_OFF --><div class="md"><p>So I had been building <a href="https://github.com/ayushh0110/ScreenMind">ScreenMind</a>, kinda like local ai desktop assistant that uses Gemma 4 for screen analysis, voice memo transcription, and meeting transcription — all through llama-server.…

相关实体

相关话题