PulseAugur
中
实时 05:19:05
Italiano(IT) [llama.cpp PR #26608] Ling-3.0 support (unmerged)

llama.cpp 通过 PR #26608 添加了 Ling-3.0 模型支持

作者 PulseAugur 编辑部 · [1 个来源] ·

llama.cpp 项目已提交一个拉取请求 (PR #26608)，以添加对 Ling-3.0 模型架构的支持。该架构被认为与 DeepSeekV2 相似。对 Tiny 模型的支持已合并，并已用于家庭助理语音，取得了积极成果，特别是其承认不知道某事时的倾向。然而，由于 CI 问题和需要更多测试数据，主要的 PR 仍未合并。 AI

影响 此次集成可能会扩大 Ling-3.0 模型在本地 LLM 社区中的可用性。

排序理由 为现有软件项目添加模型支持的拉取请求。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama.cpp 通过 PR #26608 添加了 Ling-3.0 模型支持

报道来源 [1]

  1. r/LocalLLaMA TIER_1 Italiano(IT) · /u/Public_Umpire_1099 ·

    [llama.cpp PR #26608] Ling-3.0 支持 (未合并)

    <!-- SC_OFF --><div class="md"><p>aetherbird has done some great work getting Ling-3.0 to work in llama.cpp. The architecture is generally identical to deepseekv2. </p> <p>I recently added a microscopic 40 line PR to his that adds support for the Tiny model, works great. Using it…

相关实体

相关话题