在大型语言模型中,少样本提示的最佳示例数量是一个复杂的问题,并具有重大的成本影响。虽然直觉认为更多的示例可以提高性能,但研究表明,主要的好处在于一到三个示例,之后收益递减。示例主要用于固定输出形状、标签集和粒度,其中只有最后一个功能需要正确的标签来教授可混淆案例之间的区别。因此,少量精心挑选的示例通常就足够了,建议执行特定于任务的扫描来确定理想的数量。 AI
影响 优化少样本提示可以显著降低 LLM 应用的推理成本和延迟。
排序理由 该项目讨论了关于 LLM 少样本提示技术的研究结果,并引用了学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- Brown et al.
- few-shot prompting
- GPT-3
- Min et al.
- Rethinking the Role of Demonstrations
- Reynolds and McDonell
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →