PulseAugur
中
实时 22:37:37
实体 TN-gram

TN-gram

PulseAugur coverage of TN-gram — every cluster mentioning TN-gram across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 2 条
  1. RESEARCH · CL_366892 ·

    Chorus方法将N-gram嵌入内存使用量削减87%

    研究人员推出了一种新颖的语言模型N-gram嵌入方法Chorus,该方法在保持或提高性能的同时显著降低了内存使用量。与之前为每层使用单独的N-gram嵌入表的方法不同,Chorus采用单一共享的表集,各层通过自己的投影和重缩放机制对其进行自适应。这种共享方法实现了跨层的知识重用,并产生了显著更小的表,其参数量仅为FactorEngram和DeepSeek's Engram等现有方法的一小部分,但性能更优。此外,Chorus与Ember…

  2. RESEARCH · CL_79170 ·

    新的TN-gram模块提升LLM内存效率

    研究人员推出了一种名为Tensorized Engram (TN-gram) 的新型大语言模型(LLM)记忆模块,旨在改进模型处理多词组模式的方式。与以往为不同n-gram阶数使用独立记忆结构的方法不同,TN-gram采用标准多项式(Canonical Polyadic)形式的共享因子。这种方法能够更有效地编码n-gram嵌入,并且在参数数量显著减少的情况下,展现出与现有Engram模块相当或更优的性能。