研究人员开发了Fi-ImageNet-1k,这是一个旨在挑战AI模型分布外(OOD)检测能力的新数据集。该数据集源自ImageNet-1k验证集中的图像,这些图像经过重新标注后发现不属于任何ImageNet-1k类别。专家人工标注员在多模态大语言模型(MLLMs)、视觉语言模型(VLMs)和反向图像搜索的辅助下,识别出可以被分配到原始ImageNet-1k标签空间之外的特定类别的图像。由此产生的Fi-ImageNet-1k包含522个类别的655张图像,比现有OOD数据集难得多,目前最先进的方法在95%的真阳性率下仍无法将误报率降至51%以下。 AI
影响 该基准测试将推动更鲁棒的分布外检测方法的开发,这对于AI在现实场景中的安全部署至关重要。
排序理由 该集群描述了一篇介绍用于评估AI模型能力的新型数据集的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →