PulseAugur
中
实时 10:24:59
实体 H2O sparse attention

H2O sparse attention

PulseAugur coverage of H2O sparse attention — every cluster mentioning H2O sparse attention across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_212076 ·

    新的稀疏注意力方法提高了 Transformer 处理长上下文的效率 · 跟踪 4 个来源

    研究人员正在开发新方法来提高 Transformer 语言模型的效率，尤其是在处理长上下文方面。一种名为 BF1 的方法，通过确定性的块对齐稀疏注意力机制对现有模型进行改造，与密集注意力相比，显著加快了预填充时间并提高了训练困惑度。另一种方法侧重于使用稀疏注意力策略对模型进行微调，使其能够适应并优于使用精确注意力训练的模型，名为 KeysAndValues 的开源库促进了这些长上下文推理和微调任务。此外，还开发了一种名为 Sparse…