FactCG

新的CPIL方法提高了LLM事实性检测效率

研究人员开发了一种名为跨释义不变性学习（CPIL）的新方法，用于提高大型语言模型（LLM）中基于文档的事实性检测效率。CPIL使用少量标记数据集，通过将同一文档-声明实例的释义版本形成正例对，并将标签相反的示例形成负例对来创建关系监督。这种方法在推理时仅需一次前向传播，仅使用2-3%的可用标记数据就在LLM-AggreFact基准测试中取得了强劲的性能，优于其他紧凑型检测器和标准LLM参考。