Magdalena Trędowicz

新的SEAMS方法识别出对AI模型行为至关重要的图像区域

研究人员开发了SEAMS，一种新颖的显著性方法，旨在识别对保留模型行为至关重要的图像区域。该方法使用保留目标来优化软掩码，直接搜索能够维持特定模型输出（如类别概率或嵌入）的紧凑掩码。SEAMS无需辅助数据集或特定于架构的机制即可运行，展示了其在ViT-S/16和ConvNeXt等不同模型上的灵活性。该方法生成稳定、可解释且具有竞争力的显著图，表明视觉解释可能依赖于架构。