PulseAugur
实时 03:18:03
English(EN) We need a 80-160B model urgently. The unified memory device market needs more Models.

LLM社区呼吁紧急发布80-160B参数模型

r/LocalLLaMA子版块的用户正在表达对80-1600亿参数范围内新的大型语言模型(LLM)的强烈需求。现有模型要么对于拥有高容量但速度较慢的统一内存系统(如Apple设备或AMD Ryzen AI 395)的用户来说太小,要么对于VRAM有限的用户来说太大。社区要求能够有效利用80-128GB RAM或64GB VRAM的系统运行的模型,因为现有选项要么过时,要么不适合他们的硬件配置。 AI

影响 这种需求突显了LLM市场在针对高容量、低带宽内存系统进行优化方面存在空白,可能影响未来模型开发的优先事项。

排序理由 用户讨论和对特定模型大小及功能的要求,而非直接发布或公告。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Storge2 ·

    我们迫切需要一个80-160B的模型。统一内存设备市场需要更多Models。

    <!-- SC_OFF --><div class="md"><p>Hello guys,<br /> I will keep myself short.<br /> <strong>There are so many people that have a lot but not enough of &quot;slow&quot; RAM.</strong><br /> Anybody with a Apple Device with &gt;96GB<br /> Anybody with a Ryzen AI 395 Device with &gt;…