实体
autoregressive generation
autoregressive generation
PulseAugur coverage of autoregressive generation — every cluster mentioning autoregressive generation across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
IBM 推出“Token Maturation”以实现高级语言模型生成
IBM 推出了一种名为“Token Maturation”的新型语言模型生成方法。该方法超越了传统的 token 采样,采用带有连续向量细化的流水线式自回归过程。Token 在 K-token 的“liquid tail”缓冲区内发展,在被离散化为模型词汇表之前,在潜在空间中演变。此过程避免了熵崩溃,允许 token 在不被过早承诺的情况下进行语义发展,从而防止错误传播和生成平淡的输出。该技术还引入了一种新的推理修改器,即 guida…
-
AI 文本生成:自回归模型与扩散模型方法解析
本文介绍了两种不同的 AI 文本生成方法:自回归模型和扩散模型。自回归模型逐个 token 顺序生成文本,这是当前语言模型的主流方法。相比之下,扩散模型更像雕塑,从被掩盖或不确定的位置开始,然后迭代地进行完善,这可能带来并行处理和更快的生成速度。
-
MCU 结构解析与 Transformer 模型深度解析
该集群涵盖两个不同的主题:MCU 的结构与《蜘蛛侠:新时代》和《复仇者联盟:末日时代》的关系,以及 Transformer 模型从训练到推理的技术解释。第一项讨论了一个幽默地对英雄问题进行排名的场景,暗示了 MCU 的未来结构。第二项深入探讨了 Transformer 模型的技术方面,详细介绍了自回归生成、预填充和解码过程以及 KV 缓存内存的使用。