transcoders

新的解释器方法提高了数据偏移下AI模型的可解释性

研究人员开发了一种几何自适应解释器（GAE），旨在提高字典式可解释性方法在模型遇到分布外数据时的忠实度。GAE解决了由分布偏移引起的失调问题，分布偏移会旋转模型激活的活动子空间，从而导致解释器字典失调。通过仅使用无标签的分布外数据将字典与分布外活动子空间重新对齐，GAE在无需梯度更新的情况下增强了因果忠实度，其性能与现有的基于训练的方法相当或更优。