DEFault-bench

DEFault++ 工具可自动检测和诊断 Transformer 架构的故障

研究人员开发了 DEFault++，这是一种新的诊断技术，旨在自动检测、分类和诊断 Transformer 架构中的故障。该方法在多个抽象级别上运行，以查明注意力机制等特定组件中的问题，这些问题通常会 silently 降低性能。该系统在一个新创建的基准 DEFault-bench 上取得了高精度，并在一项研究中显著提高了开发人员选择正确修复操作的能力。