Ege Erdogan

新研究探讨稀疏自编码器在神经网络可解释性方面的应用

两篇新研究论文探讨了神经网络的可解释性，特别关注稀疏自编码器（SAEs）。第一篇论文质疑了SAEs在捕捉类似人类的类别边界和典型性方面的有效性，认为它们主要反映了模型内部的相似性。第二篇论文介绍了等变稀疏自编码器（Equivariant SAEs），旨在处理对称数据，并证明了即使在重建质量较低的情况下，它们也有潜力发现对下游任务更有用的特征。