研究质疑分布偏移下零样本视觉语言模型的保形预测安全性

一篇新发表在arXiv上的研究论文质疑了在数据分布偏移条件下部署的零样本视觉语言模型（VLMs）的保形预测（split-conformal prediction）作为安全措施的可靠性。研究发现，虽然边际覆盖率（marginal coverage）可能保持较高水平，但类别条件尾部覆盖率（class-conditional tail coverage）可能显著下降，某些类别的覆盖率接近于零。研究测试了各种校准技术，其中目标端类别校准（target-side class calibration）显示出最大潜力，但需要大量的标记数据。 AI

影响 强调了当前视觉语言模型部署策略中潜在的安全风险，表明需要更鲁棒的校准方法。

排序理由 一篇发表在arXiv上的研究论文，讨论了模型安全性和校准技术。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• clustered conformal
• Conf-OT
• ImageNet
• ImageNet-Sketch
• Mondrian calibration
• SigLIP
• zero-shot vision-language models

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →