研究人员在个体层面自然语言理解(NLU)任务(如立场检测和情感分析)的数据集中发现了显著的标签错误,错误率高达31.7%。为解决此问题,他们提出了一种新的标注指南,该指南纳入了个体用户的其他帖子,以更好地捕捉主观视角。使用该指南和GPT-4o、Llama3-70B等大型语言模型进行的实验表明,在重新标注的数据集上,纳入个体因素可将模型准确率提高到87%以上,凸显了该方法对未来NLU数据集创建的重要性。 AI
影响 强调了在主观NLU任务中改进LLM数据标注的必要性,有望提高模型在细微人类语言上的表现。
排序理由 详细介绍新方法论和实验结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- GPT-4o
- Llama3 70B
- Nature Language Understanding
- sentiment analysis
- stance detection
- Yunpeng Xiao
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →