PulseAugur
中
实时 07:56:15
实体 InfuseLoop

InfuseLoop

PulseAugur coverage of InfuseLoop — every cluster mentioning InfuseLoop across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_364256 ·

    InfuseLoop 增强了并行循环 Transformer 的可扩展性

    研究人员推出 InfuseLoop,这是一种旨在提高并行循环 Transformer (PLTs) 可扩展性和性能的新机制。标准的 PLTs 在训练过程中会出现损失尖峰,并且随着深度的增加,质量提升会逐渐减小。InfuseLoop 通过在不同轨迹之间注入潜在信息来解决这个问题,利用了先前未使用的可用隐藏状态。这种增强使得 PLTs 能够更有效地扩展,消除了训练损失尖峰,并显著改善了验证损失和下游任务的准确性,而解码时间仅有边际增加。