SafeAtlas-VL

新数据集和模型推动多模态人工智能安全评估

研究人员推出了 SafeAtlas-VL，这是一个旨在改进多模态安全审核的新型数据集和一套防护模型。该数据集包含 150 万个训练实例，为图像、请求和响应在 15 个危害类别中的判断提供了五级有序量表。这种方法超越了二元安全评估，允许对多模态交互中的风险进行细致的比较。还发布了一个配套的基准测试 SafeAtlas-Bench 和一系列训练好的防护模型，包括一个达到最先进性能的 8B 参数模型，以促进该领域的进一步研究。