实体
Gated Attention
Gated Attention
PulseAugur coverage of Gated Attention — every cluster mentioning Gated Attention across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Tapered Language Models 通过重新分配参数来提高性能
研究人员推出了一种名为 Tapered Language Models (TLMs) 的架构创新，该创新重新分配了模型层之间的参数。TLMs 不采用均匀分布，而是为早期层分配更多容量，为后期层分配更少容量，这已被证明可以提高困惑度（perplexity）和下游性能。这种方法应用于 Transformers 和 Gated Attention 等各种架构中的 MLPs，在不增加参数数量或计算成本的情况下实现了这些收益。
-
Attention Sink 研究揭示了 LLM 注意力层中固有的 MoE 结构
研究人员发现，大型语言模型中的注意力汇聚现象（即第一个 token 获得不成比例的注意力）会在注意力层内自然形成一个专家混合（MoE）机制。这一发现有助于解释仅部分注意力头被利用的“头坍塌”问题。为解决此问题，研究者提出了一种新的、具有辅助负载均衡损失的 Sink-Aware 训练算法，该算法在不同注意力机制上均显示出改进的性能和有效的头负载均衡。