Equivariant Sparse Autoencoders

新型等变稀疏自编码器增强了机器学习模型在对称数据上的可解释性

研究人员开发了等变稀疏自编码器（ESAEs），以提高机器学习模型的可解释性，特别是在处理科学领域常见的对称数据时。传统的稀疏自编码器（SAEs）面临不可识别性问题，即多种解释都能很好地拟合数据。ESAEs 将 SAEs 背后的理论扩展到纳入数据对称性，在合成和真实世界的科学数据集上证明，即使重建质量较低，它们也能发现对下游任务更有用的特征。这表明重建质量不一定总是可解释性的最佳指标，尤其是在处理对称数据时。