一篇新论文研究了分裂保角预测作为零样本视觉语言模型（VLMs）在数据分布偏移条件下的安全层有效性。研究发现，尽管边际覆盖率可以保持较高水平，但类别条件覆盖率会显著下降，某些类别的覆盖率甚至在整体覆盖率约为86%时接近于零。测试了各种校准技术，其中目标侧类别校准显示出最大潜力，但需要大量的标记数据。研究得出结论，边际保角覆盖率应被视为平均可靠性指标，而不是特定类别的确定性安全保证。 AI
影响 强调了当前视觉语言模型校准方法中潜在的安全差距，表明需要更强的类别条件安全保证。
排序理由 该条目是一篇研究论文，详细介绍了关于特定机器学习技术安全性的研究结果。[lever_c_demoted from research: ic=1 ai=1.0]
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
