Hölder class

研究人员确立 Transformer 近似误差界限

研究人员为 Transformer 模型应用于 Hölder 类函数时的近似误差确立了精确的上下界。该研究推导出了一个新的上界，表明具有特定数量块的 Transformer 可以以期望的精度近似任何有界 Hölder 函数。此外，该论文首次提供了严格证明，说明 Transformer 需要最少数量的块才能达到一定的近似精度，证明了它们在回归任务中的经验有效性。