一篇新研究论文探讨了如何使零样本大型语言模型在文本分类方面更加可靠。该研究比较了评估模型置信度的各种方法,包括黑盒技术和分析令牌概率的白盒方法。研究人员发现,与简单方法相比,基于logit的评分方法显著提高了区分度,并且使用单个令牌标识符作为标签可以在仅略微影响准确性的同时保持区分度。该论文还引入了一种仅基于决策的评分方法,该方法可大幅减少解码步骤,同时获得可比的性能,证明了像Gemma 4 31B和Qwen 3.5 9B这样的开放权重模型可以与Jev 1.13.0等商业分类器相媲美。 AI
影响 提高了大型语言模型在分类任务中的可靠性,可能减少对专用分类器的需求。
排序理由 学术论文,详细介绍了一种评估大型语言模型分类置信度的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →