ProbPlug

新的ProbPlug框架提高了LLM在二元分类中的置信度

研究人员开发了ProbPlug，一个旨在提高大型语言模型（LLM）在二元分类任务中置信度估计可靠性的新框架。这个轻量级系统通过分析冻结LLM的内部token特征来工作，并使用自注意力模块来聚合表示。在各种基于文本和多模态模型上的实验表明，ProbPlug在计算成本极小的情况下提高了分类性能，并提供了更可靠的置信度分数，展现出强大的泛化能力。