Conf-OT

研究质疑分布偏移下零样本视觉语言模型的保形预测安全性

一篇新发表在arXiv上的研究论文质疑了在数据分布偏移条件下部署的零样本视觉语言模型（VLMs）的保形预测（split-conformal prediction）作为安全措施的可靠性。研究发现，虽然边际覆盖率（marginal coverage）可能保持较高水平，但类别条件尾部覆盖率（class-conditional tail coverage）可能显著下降，某些类别的覆盖率接近于零。研究测试了各种校准技术，其中目标端类别校准（ta…