Chenjie Hao

AI模型可以学会识别不确定性以提高可靠性 · 跟踪2个来源

一项新的研究论文提出了一种通过使AI模型能够识别其知识不足来提高其可靠性的方法。该方法侧重于模型校准，即置信度分数准确地反映模型的确定性。研究人员证明，更高的置信度通常与更高的准确率相关，并且经过校准的模型在未见过的数据上也能保持这种可靠性。所提出的技术可用于高效的模型级联，通过结合大模型和小模型来提高准确率，以及通过识别错误标记的样本来进行数据清理。