实体
Embedded Language Flows
Embedded Language Flows
PulseAugur coverage of Embedded Language Flows — every cluster mentioning Embedded Language Flows across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
DeltaFlow 推出噪声自适应网络以实现高效语言去噪
研究人员开发了 DeltaFlow，这是一种新颖的噪声自适应双向门控 Delta 网络，专为高效的连续语言去噪而设计。这种新架构旨在克服嵌入式语言流中全非因果注意力相关的计算成本。DeltaFlow 提供两种变体，DeltaFlow-A 和 DeltaFlow-P，与现有基线相比，它们降低了困惑度并提高了吞吐量，证明了其作为语言去噪任务的有效替代方案的潜力。
-
DeltaFlow 推出噪声自适应双向网络，实现高效语言去噪
研究人员开发了 DeltaFlow，一种新颖的噪声自适应双向门控 Delta 网络 (GDN)，旨在提高嵌入式语言流 (ELF) 的效率。与使用昂贵非因果注意力的传统 ELF 不同，DeltaFlow 提供了一种循环替代方案。引入了 DeltaFlow-A 和 DeltaFlow-P 两个变体，其中 DeltaFlow-P 在 OpenWebText 数据集上展示了困惑度降低和显著的吞吐量加速。
-
新的嵌入式语言流模型增强语言生成
研究人员推出了一种新型的用于语言生成扩散模型——嵌入式语言流（ELF）。与之前主要在离散标记上操作的模型不同，ELF在嵌入空间中保持连续表示，直到最后一步才映射到离散标记。这种方法可以更容易地借鉴图像扩散模型的技巧，例如无分类器引导。实验表明，ELF在生成质量和采样效率方面均优于现有的离散和连续语言模型。