PulseAugur
实时 08:33:45
English(EN) Can Argus Judge Them All? Comparing VLMs Across Domains

新的 ARGUS-EVAL 框架突显了视觉语言模型 (VLM) 的可靠性差距

一个名为 ARGUS-EVAL 的新评估框架已被开发出来,用于评估视觉语言模型 (VLMs) 的能力及其在不同领域的可靠性。该框架衡量基准能力、跨数据集一致性、鲁棒性保持和效率。当应用于 CLIPBLIPLXMERTGemma-3-4BQwen-2.5VL-3B-Instruct 等模型时,ARGUS-EVAL 揭示了标准基准排名与观察到的模型稳定性之间存在显著差异。Qwen-2.5VL-3B-Instruct 表现出最高的整体能力,而 CLIP 的延迟和内存使用量最低。 AI

影响 强调了在 VLM 评估中需要超越原始能力之外的可靠性指标,这可能会影响未来的模型开发和部署。

排序理由 该集群包含一篇详细介绍 VLM 新评估框架的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的 ARGUS-EVAL 框架突显了视觉语言模型 (VLM) 的可靠性差距

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Harsh Joshi, Gautam Siddharth Kashyap, Rafiq Ali, Ebad Shabbir, Niharika Jain, Sarthak Jain, Jiechao Gao, Usman Naseem ·

    Can Argus Judge Them All? Comparing VLMs Across Domains

    arXiv:2507.01042v2 Announce Type: replace-cross Abstract: Vision-Language Models (VLMs) are increasingly used in industry VLM applications such as retrieval systems, content generation platforms, and decision-support workflows, where model selection is commonly guided by benchmar…