研究人员开发了一种名为可执行因果干预演示蒸馏(ECI2D)的新方法,以提高大型语言模型自生成上下文学习演示的质量。现有方法根据观察到的正确输出来过滤演示,其中可能包含虚假的推理过程。ECI2D通过将推理过程抽象为可执行程序,并利用因果干预来确保这些推理过程在逻辑上相似的样本中保持有效(一种称为迁移不变性的特性),从而解决了这一问题。实验表明,ECI2D的性能显著优于观察性过滤方法,在演示数量更少的情况下实现了更高的准确性,尤其是在测试分布发生变化时。 AI
影响 通过确保更强大和可迁移的上下文学习演示来增强LLM的推理能力。
排序理由 详细介绍改进LLM上下文学习新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →