Guo et al. (2017)

AI模型经常在错误时显得自信，这是一个流利性与准确性的问题

AI模型的一个常见故障模式是过度自信，即它们在不正确时听起来也很确定。这种现象在ResNet-34等模型中以及Guo等人（2017）所指出的各种架构中都有观察到，其根源在于优化流利性和正确性过程的训练过程是分开进行的。对于大型语言模型而言，这个问题因其文本输出缺乏清晰、可审计的置信度分数而加剧，使得区分听起来自信的捏造和准确的陈述变得困难。