PulseAugur
中
实时 16:29:01
实体 Counting Offline Unlocks N-gram Transformers

Counting Offline Unlocks N-gram Transformers

PulseAugur coverage of Counting Offline Unlocks N-gram Transformers — every cluster mentioning Counting Offline Unlocks N-gram Transformers across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_300299 ·

    新的COUNT方法利用主机内存中的N-gram嵌入来增强LM

    研究人员推出了一种新颖的方法COUNT（Counting Offline Unlocks N-gram Transformers），通过整合存储在主机内存中的N-gram嵌入来增强语言模型。该方法利用预先计算的N-gram计数，避免了额外的学习参数和昂贵的GPU内存。COUNT可以在更多的计算量下，将10亿参数LM的验证损失提高多达57%，并且只需切换N-gram计数表即可在推理时进行任务适应，无需重新训练。