ViSAE

新的 ViSAE 工具箱可解释和引导 Vision Transformer 模型

研究人员开发了 ViSAE，这是一个旨在解释和引导 Vision Transformer (ViTs) 行为的新工具箱。ViSAE 受神经科学启发，使用稀疏自编码器将 ViT 表示分解为可理解的概念，解决了概念覆盖范围和解释准确性的局限性。该系统包括一个高效的探测套件、用于追踪概念电路的算法以及用于审计和引导 ViT 输出的应用，特别是在特定数据集上提高了最差组的准确性。