Circuit Condensation

新技术浓缩AI模型电路，便于解释

研究人员开发了一种名为“电路浓缩”（Circuit Condensation）的新技术，用于简化AI模型内复杂的因果电路。这种训练后方法旨在减少电路中的边数，使其更易于检查、比较和验证。通过迭代地修剪低归因边和训练低秩适配器，“电路浓缩”已显示出电路尺寸的显著减小，平均减少8.1倍，在某些情况下高达316倍。这种方法不仅简化了可解释性，还有助于分离负责特定行为的关键组件，正如其在间接宾语识别中的应用所示。