研究人员推出了MedQA-MM,一个旨在识别医学多模态问答模型中“推理膨胀”的新基准。当模型不是通过真正的视觉推理而是通过利用文本、图像注释或答案措辞中存在的捷径来获得正确答案时,就会发生这种膨胀。该基准的审计和模态消融显示,虽然完整输入准确率可达62.63%,但在仅文本和仅选项设置下,准确率分别显著降至53.96%和29.71%。一个精心策划的1000个条目子集MedQA-MM,进一步缓解了这些捷径,将仅文本和仅选项的准确率分别降至5.21%和12.33%,凸显了在医学图像推理声明中需要进行路线级别证据支持。 AI
影响 强调了需要健全的评估方法,以确保AI模型不是利用表面模式而非真正的推理。
排序理由 该集群包含一篇详细介绍用于评估AI模型的新基准的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- Connected Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- Influence Flower
- Litmaps
- MedQA-MM
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →