研究人员推出 Yuvion VL,这是一个新系列的多模态大语言模型,专门为内容和人工智能安全应用而设计。这些模型在构建时就考虑了对抗鲁棒性,采用了一种新颖的“迷惑后对比”微调方法,以增强其区分视觉上相似但安全关键内容的能力。配套的 Yuvion VL RiskEval 基准测试表明,Yuvion VL-32B 实现了最先进的安全性能,在保持通用能力的同时,超越了开源和闭源的商业模型。 AI
影响 推出了专门用于人工智能安全的多模态模型,有望提高对抗性内容的检测和缓解能力。
排序理由 发布了一篇详细介绍新型多模态基础模型及相关基准测试的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- AI safety
- Confuse-then-Contrast Fine-Tuning
- multimodal large language models
- Yuvion VL
- Yuvion VL-32B
- Yuvion VL RiskEval
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →