Google DeepMind 发布了 DiffusionGemma,这是一种新颖的混合专家 (MoE) 模型,它利用从图像生成技术借鉴的方法来并行迭代地精炼 token 块。这种方法允许这个拥有 260 亿参数的模型一次只激活 40 亿参数,从而在消费级硬件上实现超过每秒 1000 个 token 的处理速度。DiffusionGemma 独特的架构和并行处理能力,与传统的自回归模型相比,能够产生更具动态性和创造性的输出。 AI
影响 通过并行 token 精炼,为 LLM 推理速度和输出创造力树立了新标杆。
排序理由 前沿实验室模型发布,附带系统卡。[lever_c_从 frontier_release 降级:ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →