新基准揭示视觉语言模型安全推理差距

名为SafeGesture的新基准已被开发出来，用于评估视觉语言模型（VLM）在安全关键场景下的细粒度手势理解能力。该基准将六种手势与八种操作环境配对，共产生4,800个评估项。对GPT-4o和Qwen2.5-VL-7B等模型的初步测试显示，手势识别准确率与安全行为推断之间存在显著差距，表明推理安全情景是当前VLM面临的主要挑战。 AI

影响 突出了VLM安全推理中的关键差距，表明未来的开发应侧重于情境理解，而不仅仅是手势识别。

排序理由 该集群描述了一篇介绍AI模型评估基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

• arXiv
• GPT-4o
• InternVL2-8B
• LLaVA-NeXT-7B
• Phi-3.5-Vision
• Qwen2.5-VL-7B
• SafeGesture

• 论文
• 安全
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →