PulseAugur
实时 23:40:04
(CA) Llama.cpp B9406 MTP mmproj fix

llama.cpp B9406 修复了 MoE 视觉模型 MTP 崩溃问题

llama.cpp 项目发布了 B9406 版本,其中包含了一个针对 MTP(多模态处理)与 MoE(混合专家)模型和视觉能力相关的崩溃问题的修复。此特定问题影响了用户在处理图像块时运行 Qwen3.6-35B-A3B 等模型。此次更新旨在解决在 get_rows 函数中遇到的 GGML_ASSERT 崩溃。 AI

影响 为运行本地多模态 MoE 模型的用户解决了特定 bug,提高了可用性。

排序理由 这是一个开源项目的软件发布,它提高了运行特定类型模型的性能。[lever_c_demoted from research: ic=1 ai=0.7]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 (CA) · /u/Bulky-Priority6824 ·

    Llama.cpp B9406 MTP mmproj 修复

    <!-- SC_OFF --><div class="md"><p><a href="https://github.com/ggml-org/llama.cpp/releases/tag/b9406">B9406</a></p> <p>Been waiting for this one. Building now.</p> <p>Report your results if you test!</p> <blockquote> <p>GGML_ASSERT(i01 &gt;= 0 &amp;&amp; i01 &lt; ne01) crash in ge…