Prompt Embedding Probes (PEP)

新方法通过内部分析解决LLM和VLM的幻觉问题 · 已追踪2个来源

研究人员开发了检测大型语言模型和视觉语言模型中幻觉的新方法。UniProbe是一种用于大型VLM的技术，它使用图神经网络、Vision Transformer和门控循环单元来分析模型内部表示，并在token级别识别幻觉内容。Prompt Embedding Probes (PEP)是另一种方法，它通过可学习的提示嵌入来增强隐藏状态，以检测LLM中的幻觉。这两种方法都旨在提高检测准确性，而无需进行广泛的模型微调。