研究人员调查了在固定令牌预算内上下文学习(ICL)的最佳策略,重点关注示例数量和长度之间的权衡。他们在“Beat the AI”和“Natural Questions”等问答基准测试上,使用六种指令微调的大型语言模型进行的实验表明,使用更多、更短的示例通常比使用更少、更长的示例更有效。这一发现尤其在“Beat the AI”数据集上表现突出,在 NQ 数据集上也观察到了,尽管程度较轻。在 ANLI R3 自然语言推理上的一个附加实验也表明,更短的示例通常能产生更好的结果,突出了演示粒度作为提示设计中的一个关键因素。 AI
影响 优化上下文学习的提示构建可以降低 LLM 应用的推理成本和延迟。
排序理由 学术论文,详细介绍 LLM 上下文学习的研究成果。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →