Ward Gauderis

新框架正式化神经网络可解释性

研究人员引入了一个名为组合性可解释性的新框架，该框架使用范畴论为理解神经网络行为提供了一种形式化且可验证的方法。该方法旨在通过将机制性解释定义为必须为了保持一致性而可交换的句法和语义映射对，来客观地比较和组合它们。该框架将解释质量分解为忠实度和复杂性，将可解释性视为一个优化问题，并提供了一种将模型重组为更简单、功能性部分的方法。这项工作将现有的机制性方法定位为精炼的子类，并为自动化这些解释的发现和评估提供了蓝图。