HalluPrism

新的HalluPrism工具可诊断MLLM故障，准确性更高

研究人员开发了HalluPrism，这是一种新的诊断工具，旨在更好地理解多模态大语言模型（MLLM）的故障模式。该方法通过引入视觉退化、将图像替换为空白图像以及执行基础或关系检查来重新运行模型答案。探针根据对视觉扰动的敏感性、图像移除后的置信度保持以及基础探针的不稳定性生成签名。与标准的置信度分数相比，该签名显著提高了识别故障类别的准确性。