PulseAugur
实时 08:00:16
实体 A Compositional Theory of Causally Masked Transformers

A Compositional Theory of Causally Masked Transformers

PulseAugur coverage of A Compositional Theory of Causally Masked Transformers — every cluster mentioning A Compositional Theory of Causally Masked Transformers across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_171954 ·

    新理论基于内部动态定义 Transformer 的表达能力

    研究人员开发了一种新的代数形式化方法,以理解因果掩码 Transformer 的计算能力。该框架直接从模型的内部动态及其总结输入前缀信息的记忆中推导出表达能力。该研究基于不同的注意力类型和数值语义建立了表达能力层级,展示了注意力机制和浮点精度的变化如何影响 Transformer 可以保留和计算的信息。