PulseAugur
实时 13:38:55
English(EN) Is ternary (1.58-bit) LLMs making a come back?

三元大语言模型随着小型实验室的新模型而复苏

近期发展表明,三元(1.58位)大语言模型正在复苏,一些小型实验室发布了多个新模型。其中包括prismML的27B三元模型、Deepgrove的20B Maple模型以及Doses AI的27B Pestle模型,后者专门用于医疗应用。虽然这些模型显示出希望,尤其是在速度和特定任务性能方面,但它们目前在长时序代理任务方面面临挑战,开发人员旨在通过未来的强化学习优化来解决这些问题。 AI

影响 可能实现更高效的大语言模型,尽管当前实现面临复杂代理任务的局限性。

排序理由 讨论一种特定、不太常见的模型架构(三元大语言模型)及其新发布。 [lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

三元大语言模型随着小型实验室的新模型而复苏

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Individual-Dot5488 ·

    三进制(1.58位)大语言模型是否正在卷土重来?

    <!-- SC_OFF --><div class="md"><p>I'm just thinking, ever since microsoft announced bitnet, this sub (and myself) has been hoping for massive ternary models. In the last month alone, prismML dropped 27B ternary (though I've read community experience suggested it sometimes didn't …