Karl

Aligning with Your Own Voice: Self-Corrected Preference Learning for Hallucination Mitigation in LVLMs

研究人员正在开发新的框架来解决大型语言模型（LLM）中的幻觉问题。一种称为“LLM 精神病”的方法将严重的现实边界失败进行分类，并提出了一种评估它们的诊断量表，其中记录了 ChatGPT 5 的发现。另一种方法 KARL 使用强化学习将弃权行为与模型的知识边界对齐，旨在在不牺牲准确性的情况下减少幻觉。此外，PRISM 提供了一个基准，将幻觉分解为知识、推理和指令遵循错误，以帮助理解其根源。对于视觉语言模型，AVES-DPO 专注于自我…