实体
35B Models
35B Models
PulseAugur coverage of 35B Models — every cluster mentioning 35B Models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
FreeToken环境可在8GB GPU上运行35B MoE模型
一种名为FreeToken的新运行环境已被开发出来，旨在使大型语言模型（特别是350亿参数模型）能够在仅具有8GB显存的GPU上高效运行。该环境针对专家混合（MoE）模型进行了优化，这类模型以处理大量参数的效率而闻名。
-
A.L.F.R.E.D. 系统将大型模型提炼成小型模型以实现更快执行
一个名为 A.L.F.R.E.D.（自适应本地优先路由与执行蒸馏）的新系统已被开发出来，用于提高大型语言模型的效率。该方法涉及将大型模型的知识提炼到更小、更专业的模型中。当遇到查询时，A.L.F.R.E.D. 会将其路由到合适的小型模型，该模型可以比大型模型处理简单查询所需的速度更快、计算资源更少。这种方法旨在通过将任务委托给专门的知识库来模仿人类的认知过程。