PulseAugur
实时 02:40:59
实体 HDD-RoPE

HDD-RoPE

PulseAugur coverage of HDD-RoPE — every cluster mentioning HDD-RoPE across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_109002 ·

    新的HDD-RoPE嵌入加速Transformer训练

    一种名为高维动态旋转位置嵌入(HDD-RoPE)的新型位置嵌入技术已被开发出来,它比标准的Transformer模型提供了更快的收敛速度。该方法将序列位置分解为多维块,从而实现超越线性进展的复杂位置理解。相关的GitHub存储库提供了复制这些发现的代码,并详细介绍了HDD-RoPE算法的数学基础。