上下文学习(ICL)是一种允许大型语言模型(LLMs)通过提示中提供的少量示例来学习新任务的方法,而无需更新模型权重。该技术与需要修改模型参数的传统微调形成对比。ICL 利用模型现有的知识和架构,例如 Transformer 中的注意力机制,来适应提示中呈现的新指令和数据格式。 AI
影响 使大型语言模型能够在不进行昂贵的权重更新的情况下适应新任务,从而简化模型的使用。
排序理由 该条目讨论了与学习方法相关的大型语言模型中的一个技术概念。
在 Medium — fine-tuning tag 阅读 →
- Attention Mechanism
- In-Context Learning
- fine-tuning
- GPT-3
- large-language models
- prompt engineering
- transformer
- zero-shot learning
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →