Caleb Munigety

新方法探究Transformer语言模型的因果特征

研究人员开发了一种用于Transformer语言模型因果特征分析的五阶段方法，并将其应用于GPT-2 small模型在间接宾语识别任务上的表现。该方法使用激活修补来识别关键电路，并利用稀疏自编码器来恢复选择性特征，发现这些特征具有部分因果性。鲁棒性测试揭示了检测和因果鲁棒性之间的差距，而基于成本的部署评估显示，最优监控器配置可节省大量成本。