CrossHallu

AI幻觉：新研究探究推理和跨语言泛化能力

两篇新研究论文探讨了AI模型中的“幻觉”现象，重点关注这些错误如何影响下游推理，以及检测信号是否能在不同语言和领域之间泛化。第一篇论文介绍了HIVE，一个用于研究视觉语言模型中后幻觉推理的引擎，发现幻觉字幕有时可以提高视觉语言任务的性能。第二篇论文CrossHallu研究了用于检测大型语言模型内部状态幻觉的信号是否能在英语和阿拉伯语之间以及不同领域之间转移，结果表明这些信号在很大程度上是可转移的。