UniMatrix-SparsePointer

Associative-State Universal Transformers 通过稀疏检索提高参数效率

研究人员开发了 UniMatrix，一种将结构化递归与稀疏检索机制相结合的新型通用 Transformer 架构。虽然早期版本在 WikiText-2 等标准语言建模任务上显示出参数效率和具有竞争力的性能，但它们在联想回忆方面存在困难。随后的迭代 UniMatrix-SparsePointer，通过引入稀疏槽路由和指针-logit 融合，显著提高了联想回忆的准确性，在特定基准测试上以比传统 Transformer 更少的参数实现了近乎完美的性能。