PulseAugur
实时 18:30:17
English(EN) DiffusionGemma Is Fast Because It Stops Pretending Text Has to Be Written Left to Right

Google DeepMind 的 DiffusionGemma 通过离散扩散实现每秒 1500 个 token

Google DeepMind 发布了 DiffusionGemma,这是一个开放权重的语言模型,它利用离散扩散进行文本生成,与传统的自回归模型相比,输出速度显著更快。虽然 DiffusionGemma 在单个 NVIDIA H100 上可以实现大约每秒 1500 个输出 token,但在能力基准测试上的得分低于其自回归对应模型 Gemma 4。这种在服务速度方面的创新对于需要低延迟和高吞吐量的代理系统尤其有益,预示着未来混合模型或智能路由系统将根据任务需求选择合适的生成方法。 AI

影响 通过挑战传统的自回归生成,加速了大型语言模型的服务速度,尤其对代理系统而言。

排序理由 前沿实验室模型发布,附带系统卡。[lever_c 从 frontier_release 降级:ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Google DeepMind 的 DiffusionGemma 通过离散扩散实现每秒 1500 个 token

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Reid Marlow ·

    DiffusionGemma Is Fast Because It Stops Pretending Text Has to Be Written Left to Right

    <h1> DiffusionGemma Is Fast Because It Stops Pretending Text Has to Be Written Left to Right </h1> <p>Google DeepMind published DiffusionGemma this week, an open-weight language model that generates text with discrete diffusion instead of the usual token-by-token loop.</p> <p>Tha…