PulseAugur
中
实时 00:46:39

Ornith AI发布集成了推测解码的Ornith-1.5 DFlash模型

Ornith AI发布了Ornith-1.5 DFlash系列下的几款新模型,包括9B、397B和35B参数版本。这些模型集成了Ornith-1.5基础模型和一个DFlash草稿模型,以增强推测解码能力。这些模型已在Hugging Face上发布,提供不同尺寸以满足各种计算需求。 AI

影响 为研究和开发开源大型语言模型的研究人员和开发人员提供了新选择,可能提高推理速度。

排序理由 非前沿实验室发布新开源模型。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Ornith AI发布集成了推测解码的Ornith-1.5 DFlash模型

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/jacek2023 ·

    Ornith-1.5 DFlash

    <!-- SC_OFF --><div class="md"><p><strong>Ornith-1.5-9B-DFlash</strong> pairs the <strong>Ornith-1.5-9B</strong> model with a DFlash draft model for speculative decoding.</p> <p><a href="https://huggingface.co/ornith-ai/Ornith-1.5-9B-DFlash">https://huggingface.co/ornith-ai/Ornit…