实体
PreMoE
PreMoE
PulseAugur coverage of PreMoE — every cluster mentioning PreMoE across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AI模型优化旨在在有限RAM上运行大型模型
研究人员正在探索fMoE、PreMoE和TAER等AI模型优化技术，以在有限的RAM上使用极其大型的模型。这些技术允许根据提示动态选择和加载特定的模型“专家”，这意味着对于任何给定的任务，模型参数的只有一小部分会被使用。这种方法可以使拥有数万亿参数的模型高效运行，而提示完成仅使用数十亿参数。
-
新的MoE架构提升效率和性能
研究人员正在开发先进技术来改进专家混合（MoE）模型，特别关注解决领域转换和推理效率方面的挑战。一种受自由能原理和脉冲神经网络启发的方法，引入了时间记忆和预期路由，以显著增强领域转移期间的专家选择。其他研究则侧重于通过运行时感知调度框架和新颖的内核配置来优化MoE推理，以最大化吞吐量。此外，还在探索新的方法来管理异构专家大小并在微调过程中保留较少使用的专家的知识，旨在提高性能和资源利用率。