Conformal Factuality

新的 LLM 研究通过语义聚类和一致性预测解决事实性问题

研究人员正在探索新的方法来对抗大型语言模型 (LLM) 的幻觉并提高其事实性。语义熵分析答案的变化以检测捏造，而语言校准则训练模型以一种有助于读者预测的方式表达置信度。一致性事实性将正确性视为一个不确定性量化问题，将答案分解为子声明并过滤掉置信度低的声明。一致性语言建模将一致性预测应用于生成模型，旨在保证可接受的答案并标记可能产生幻觉的短语。