一篇新的arXiv论文研究了输入实例的顺序如何影响大型语言模型(LLM)在多实例处理(MIP)任务中的性能。研究人员发现,LLM对实例顺序非常敏感,准确性根据输入的排列方式变化高达90个百分点。研究表明,当多数标签实例出现在序列的早期时,模型的准确性往往更高,并且对推理轨迹和归因分数的分析表明,不同输入位置的侧重点不均。 AI
影响 突出了LLM聚合任务中潜在的偏差,表明需要仔细安排输入顺序或进行模型调整,以实现可靠的多实例处理。
排序理由 关于LLM处理行为的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →