实体
Gemma MoE
Gemma MoE
PulseAugur coverage of Gemma MoE — every cluster mentioning Gemma MoE across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AI用户寻求模型速度与实际效用之间的平衡
一位Reddit r/LocalLLaMA板块的用户正在寻求关于如何在AI设置中平衡模型速度和上下文窗口大小与实际效用的建议。他们对其他人如何配置系统以实现灵活性和真实用例感兴趣,而不仅仅是优化。该用户描述了他们当前的设置,包括在双3090 GPU上同时运行flux2、minimax h3、Gemma MOE和vision tower等多个模型,以处理图像和视频生成、脚本编写和散文改进等任务。
-
Google DeepMind 发布 DiffusionGemma,并行文本生成速度提升 4 倍
Google DeepMind 推出了 DiffusionGemma,这是一种新颖的 LLM 架构,摒弃了传统的自回归式文本生成。该新模型采用离散文本扩散技术,可以同时对整个 token 块进行去噪和生成,而不是一次生成一个 token。据称,这种并行处理方法在专用 GPU 上可将推理速度提高高达四倍,并采用了混合专家(MoE)设计,从约 260 亿参数的主干模型中激活约 38 亿参数。该模型在 Apache 2.0 许可下开源,支持…