PulseAugur
中
实时 08:34:31
实体 Dachuan Song

Dachuan Song

PulseAugur coverage of Dachuan Song — every cluster mentioning Dachuan Song across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_366313 ·

    新的 ESSH 架构提供灵活、高效的语言模型推理

    研究人员推出了一种新颖的 Elastic Selective Spectral Hybrid (ESSH) 架构,旨在实现跨各种计算预算的高效语言模型推理。ESSH 将输入依赖的衰减和门控与谱混合器和滑动窗口注意力相结合,通过减少通道数量和前馈宽度来实现灵活的模型容量。这种方法能够进行分块并行训练和融合循环解码,同时保持与全容量独立训练模型相当的语言建模质量。在 1.53B 参数配置下,ESSH 展示了比现有的 Mamba 和 Tra…