研究人员开发了ProbPlug,一个旨在提高大型语言模型(LLM)在二元分类任务中置信度估计可靠性的新框架。这个轻量级系统通过分析冻结LLM的内部token特征来工作,并使用自注意力模块来聚合表示。在各种基于文本和多模态模型上的实验表明,ProbPlug在计算成本极小的情况下提高了分类性能,并提供了更可靠的置信度分数,展现出强大的泛化能力。 AI
影响 通过改进置信度估计,提高了LLM在关键应用中预测的可靠性。
排序理由 该集群包含一篇详细介绍LLM置信度估计新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →