Function-Space Transformer

函数空间Transformer自适应表示以应对科学和视觉任务

研究人员推出函数空间Transformer (FST)，一个旨在从离散样本表示的函数中学习的新颖框架。与使用固定网格的传统方法不同，FST采用一种空间自适应的连续潜在表示，其锚点位置根据输入观测值进行预测和优化。这种自适应方法使表示能够更好地匹配输入的空间组织，从而提高性能。FST在PDE预测任务上展示了优于Perceiver IO的结果，并在ImageNet-1K上以更少的参数实现了比Vision Transformer更高的准确率。