Context Following Difficulty

新的COFFEQA方法通过反事实蒸馏增强LLM问答能力

研究人员开发了COFFEQA，一种用于大型语言模型问答的少样本知识蒸馏的新方法。该技术使用反事实示例（即经过最小修改以引发教师模型不同响应的上下文）来改进小型学生模型的训练。通过关注具有挑战性的事实样本，并使用一种称为上下文遵循难度（CFD）的新指标来验证反事实示例，COFFEQA的性能显著优于传统的仅事实蒸馏方法。在TriviaQA等基准测试以及T5和Qwen2.5等模型上的实验表明，准确性得到了显著提高。