RG-Flow Transformer

RG-Flow Transformer在稀疏神经数据上展现出可解释性提升

研究人员开发了一种新颖的RG-Flow Transformer架构，通过引入重整化群（RG）归纳偏置来处理稀疏神经数据。该模型在Physio-EDF语料库上进行了睡眠分期分类测试，并与标准Transformer进行了比较。虽然RG-Flow Transformer在睡眠分期方面未显示出更高的准确性，但它在可解释性方面展现出显著优势，成功地在样本外恢复了脑电图数据的连续频谱指数，而标准Transformer不具备此能力。