实体 Demián Fraiman

Demián Fraiman

PulseAugur coverage of Demián Fraiman — every cluster mentioning Demián Fraiman across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_14475 · May 4 · 04:00

新测度理论框架解释了Transformer的表现力

研究人员引入了一个新的测度理论框架，以理解Transformer架构在建模上下文关系方面的表现力。该框架将标准softmax注意力与熵正则化最优传输联系起来，将注意力视为一种归一化亲和函数。该研究建立了一个通用逼近定理，证明了Transformer可以逼近任意的上下文关系规则，并且归一化方法会影响这些关系的表示。