一个名为 ARGUS-EVAL 的新评估框架已被开发出来,用于评估视觉语言模型 (VLMs) 的能力及其在不同领域的可靠性。该框架衡量基准能力、跨数据集一致性、鲁棒性保持和效率。当应用于 CLIP、BLIP、LXMERT、Gemma-3-4B 和 Qwen-2.5VL-3B-Instruct 等模型时,ARGUS-EVAL 揭示了标准基准排名与观察到的模型稳定性之间存在显著差异。Qwen-2.5VL-3B-Instruct 表现出最高的整体能力,而 CLIP 的延迟和内存使用量最低。 AI
影响 强调了在 VLM 评估中需要超越原始能力之外的可靠性指标,这可能会影响未来的模型开发和部署。
排序理由 该集群包含一篇详细介绍 VLM 新评估框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- ARGUS-EVAL
- arXiv
- BLIP
- Gautam Siddharth Kashyap
- Gemma-3-4B
- Hugging Face
- LXMERT
- Qwen-2.5VL-3B-Instruct
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →