LLM-AggreFact

新研究通过内部探测和模型聚合来解决LLM幻觉问题

研究人员正在开发检测和减轻大型语言模型（LLM）幻觉的新方法。一种方法涉及探测模型内部状态，以确定幻觉的确切发生和持续，表明外部观察者在检测方面与模型本身一样有效。另一种策略侧重于聚合多个廉价的开放权重模型，充当可靠的裁判，以较低的成本实现了接近前沿模型的性能。此外，针对特定模态（如视听LLM）的新技术正在涌现，通过引导内部问题状态来解决源混淆的接地幻觉。