Mehran Shakerinava

研究发现，对角线 SSM 在状态跟踪方面表达能力有限

一篇新的研究论文探讨了对角线状态空间模型（SSM）在应用于状态跟踪任务时的理论局限性。该研究表明，单层对角线 SSM 无法以有限精度跟踪非阿贝尔群。此外，研究确定 k 层对角线 SSM 只能跟踪具有特定次正规序列结构的群，从而有效地定义了它们在可解群内的表达能力。实证方面，论文指出多层模型在学习非阿贝尔群的状态跟踪时常常遇到困难，这表明理论表达能力与实际可学习性之间存在差异。