实体 MZAttn

MZAttn

PulseAugur coverage of MZAttn — every cluster mentioning MZAttn across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_187280 · Aug 7 · 04:00

新型矩阵类比注意力机制增强集合Transformer

研究人员推出了一种名为矩阵类比注意力（MZAttn）的新方法，通过使值投影具有上下文自适应性来增强集合Transformer。该方法用动态的矩阵类比族取代了固定的线性投影，从而在聚合值映射到输出时提供了更大的灵活性。实验表明，MZAttn在具有高秩、稀疏组合依赖于输入集的集合预测任务上具有显著优势，在这些特定场景下优于标准的注意力机制。