Confidence-Aware Reward

新的CARE框架提升了医学VQA模型的可靠性和可信度

研究人员开发了CARE，一个旨在提高医学视觉问答（VQA）模型可靠性的框架。CARE解决了置信度失校准问题，即模型表达的确定性与其诊断准确性不符。该框架采用两阶段流程，包括使用合成的医学思维链数据进行监督微调，以及在组相对策略优化中引入新颖的置信度感知奖励机制，以更好地使置信度与正确性保持一致。在三个医学VQA基准上的评估表明，CARE在提高诊断准确性的同时，降低了校准误差和幻觉率，为更值得信赖的临床决策支持工具铺平了道路。