研究人员开发了DearICL,这是一个用于在大型语言模型(LLM)的上下文学习(ICL)中选择最佳演示示例的新颖框架。与静态、离线选择方法不同,DearICL将样本选择视为一个子集排序问题,采用非线性代理和间隙指数老虎机算法。这种方法可以对有效和边界示例进行细粒度分离,从而实现实例级别的子集排序。在开源LLM上的实验表明,DearICL在低样本复杂度下,相比现有的线性老虎机基线,准确率提高了8.08%至15.9%。 AI
影响 通过优化演示示例选择,提高LLM对新任务的适应性,可能带来更高效、更准确的少样本学习。
排序理由 这是一篇详细介绍LLM上下文学习新方法的学术论文。
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- DearICL
- In-context learning
- gap-index bandit algorithm
- Gotit.pub
- Hugging Face
- IArxiv
- large language models
- LLMs
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →