Exemplar Partitioning

新方法简化语言模型可解释性

研究人员推出了一种名为示例划分（Exemplar Partitioning, EP）的新方法，用于语言模型的机械可解释性。与现有的稀疏自编码器（sparse autoencoders）等字典学习技术相比，EP提供了一种更简化的方法。EP通过基于观察到的示例来划分激活空间，从而识别其中可解释的结构，避免了稀疏自编码器固有的重建和稀疏性损失。该方法在AxBench潜在概念检测基准等基准测试中取得了有竞争力的性能，并且计算成本显著低于稀疏自编码器。