研究人员推出了一种名为dLLM-SetScore的新方法,该方法利用离散掩码扩散语言模型进行多标签文本分类,而无需进行特定任务的微调。该方法通过对每个潜在标签提出是/否问题,并比较答案标记的概率来实现。为避免偏差,该方法采用每标签评分,将每个标签置于相同的句法位置,以防止先前方法中观察到的依赖于顺序的伪影。在Reuters和GoEmotions等数据集上的评估表明,使用此协议的LLaDA-Instruct检查点在无需训练的情况下取得了高性能,在多项比较中优于SetFit和其他监督分类器。 AI
影响 为多标签分类引入了一种无需训练的方法,有可能简化某些自然语言处理任务的部署并降低计算成本。
排序理由 这是一篇研究论文,详细介绍了一种使用离散扩散语言模型进行文本分类的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- dLLM-SetScore
- Dream-7B
- European Court of Human Rights
- GoEmotions
- LLaDA-8B
- LLaDA-Instruct
- Reuters
- setfit
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →