OpenOOD

新研究分析视觉模型计算路径以改进 OOD 检测

研究人员开发了一种新方法来分析视觉模型的内部工作原理，重点关注样本在模型层中经过的“表示轨迹”或计算路径。该方法将中间层视为连接状态而非静态快照，揭示了表示如何演变。研究发现，在各种模型类型和数据集上，这些路径表现出一致的样本特定连续性和架构特定深度剖面。这种分析提供了有价值的可靠性信号，尤其是在视觉干扰和语义距离较大的变化情况下，能够改进分布外检测和图像分类性能。