invariance auditing

新的不变性审计方法通过测试特征提取器来验证机器学习模型

研究人员引入了一种名为“不变性审计”的新方法，通过分析机器学习模型的特征提取器来验证模型。该技术生成产生相同特征的多样化输入，从而评估模型学习到的不变性是否与任务要求一致。与需要专用生成模型的先前方法不同，这种方法是无训练的，并利用预训练的扩散或流匹配模型来采样不变输入。实验表明，该方法可以揭示模型的可取和令人担忧的行为，例如在医学图像分析中识别出Qwen-2B模型的问题。