实体
Reza Khanmohammadi
Reza Khanmohammadi
PulseAugur coverage of Reza Khanmohammadi — every cluster mentioning Reza Khanmohammadi across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
医疗AI模型需要校准的置信度以实现安全分诊，而非自主决策
一篇新的研究论文探讨了置信度估计对于医学视觉语言模型（LVLMs）的有效性。研究发现，尽管LVLMs可以生成流畅且自信的答案，但它们常常在没有准确利用提供的医学图像的情况下这样做，而是依赖于语言先验。这可能导致看起来可信但诊断错误的后果。该研究在三个医学数据集上评估了七种置信度估计器在五种开源LVLMs上的表现，得出结论：校准的置信度分数对于安全部署至关重要，能够使模型对病例进行分诊，而不是自主运行。研究结果表明，当前的置信度信号不足…
-
新框架通过对比图像预测来评估LVLM置信度
研究人员开发了一个名为BICR（盲图对比排名）的新框架，用于评估大型视觉语言模型（LVLM）的置信度。该方法有助于区分真正由视觉输入驱动的预测和仅依赖语言先验的预测。BICR训练一个轻量级探针，用于对比有无图像时LVLM的隐藏状态，在图像被遮挡时降低置信度。BICR在多个LVLM和各种任务上进行了评估，证明其具有优越的校准和区分能力，并且参数量远少于现有基线。