研究人员开发了VLMGuard，一个旨在检测针对视觉-语言模型（VLM）的恶意提示的新框架。该系统通过利用在野外收集的未标记用户提示来解决标记数据有限的挑战。VLMGuard自动估算提示的恶意程度，从而无需人工标注即可训练分类器。实验表明，VLMGuard的性能优于现有方法，提高了检测准确性。 AI
影响 通过提供一种无需大量手动标记即可检测有害输入的方法，增强了视觉-语言模型的安全性和可靠性。
排序理由 该集群包含一篇研究论文，详细介绍了用于检测视觉-语言模型中恶意提示的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- Hugging Face
- IArxiv
- ScienceCast
- vision-language model
- VLMGuard
- Xuefeng Duan
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
