研究人员推出了VeriOCRBench,一个旨在评估多模态大语言模型(MLLMs)在光学字符识别(OCR)场景中任务验证能力的新基准。该基准解决了“盲目合规”问题,即模型在面对难以辨认的文本、矛盾的前提或缺失信息时,常常会假设任务有效。VeriOCRBench包含1800个样本,涵盖了不同领域和验证维度中注入的无效任务,旨在衡量模型在尝试回答之前确定任务是否可执行的能力。对15个领先MLLM的评估揭示了显著的可靠性差距,包括持续的盲目合规和过度拒绝问题。 AI
影响 凸显了当前OCR推理系统中一个关键的可靠性差距,可能推动开发更强大、更值得信赖的用于文档理解的MLLM。
排序理由 该集群包含一篇介绍新AI模型评估基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →