PulseAugur
中
实时 02:21:33
English(EN) Mercury 3: How Inception Labs Scaled Diffusion LLMs to 1,000 Tokens Per Second

Inception Labs 的 Mercury 3 diffusion LLM 达到每秒 1000 个 token

作者 PulseAugur 编辑部 · [1 个来源] ·

Inception Labs 发布了 Mercury 3，这是一款基于 diffusion 的大型语言模型，其吞吐量显著高于传统的自回归模型。该新模型在 NVIDIA GPU 上大约可以生成每秒 1068 个 token，据报道比 GPT-6 Luna 和 Claude Haiku 5.5 等优化模型快 4 到 8 倍。Mercury 3 采用并行去噪过程，从一个带掩码的草稿开始，同时迭代地优化输出的所有部分，从而实现更高效的 GPU 利用率。该模型还拥有 100 万个 token 的上下文窗口，并且在定价上具有竞争力，适用于高吞吐量应用。 AI

影响 这款 diffusion LLM 的高吞吐量可以为高容量文本生成任务带来新的应用并降低成本。

排序理由 实验室（Inception Labs）发布新模型，采用新颖的架构（diffusion LLM）并声称具有高性能。[lever_c_demoted from frontier_release: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Inception Labs 的 Mercury 3 diffusion LLM 达到每秒 1000 个 token

本文如何被排名

Signal score
9 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Significant
实验室（Inception Labs）发布新模型，采用新颖的架构（diffusion LLM）并声称具有高性能。[lever_c_demoted from frontier_release: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Prabhakar Chaudhary ·

    Mercury 3：Inception Labs 如何将 Diffusion LLM 扩展到每秒 1000 个 token

    <h1> Mercury 3: How Inception Labs Scaled Diffusion LLMs to 1,000 Tokens Per Second </h1> <p>When most people think of large language models, they picture the same basic loop: generate one token, append it to the context, generate the next. Autoregressive decoding has been the de…

相关实体

相关话题