Breeds

研究发现AI模型在未见过的子类型上校准失败

一篇新的研究论文探讨了AI模型的子类型鲁棒性概念，重点关注模型在面对训练期间未见过的细粒度子类型数据时是否保持校准（即其置信度与其准确性相匹配）。该研究测试了五种架构在ImageNet和CIFAR-100等数据集上的表现，发现校准在未见过的子类型偏移下会显著下降，导致对错误预测过度自信。这种效应与图像损坏导致的普遍准确性下降不同，因为模型会响应可见的退化，但不会响应分类内的创新。研究结果表明，评估子类型鲁棒性需要同时考虑准确性和校准。