Parametric Hallucination Confidence

LLMs 表现出“锚定虚构”，部分证据会放大自信的幻觉

研究人员发现了一种大型语言模型中的新现象，称为“锚定虚构”（anchored confabulation），其中提供部分证据会适得其反地增加模型自信地产生幻觉的倾向。这种效应被正式表述为参数幻觉置信度（Parametric Hallucination Confidence, PHC），在多个模型家族中均有观察到，并由一项新定律——锚定阈值定律（Anchoring Threshold Law）进行预测。研究结果对检索增强生成（RAG）系…