OpenHalDet

AI 研究解决医疗影像和文档分析中的幻觉问题

多篇研究论文探讨了检测和减轻 AI 系统中幻觉的方法，特别是在医疗影像和文档分析等安全关键应用中。一项研究提出了一个用于医疗 AI 的跨模态框架，强调通用模型在幻觉基准测试中可能优于专用模型。另一篇论文介绍了 SafeLLM，它使用提取而非重写的方式进行检索增强生成，以提高安全性和减少幻觉。此外，还有关于使用类人标准探测进行零源幻觉检测的研究，以及利用最优传输和因果循环标注器来更快地检测各种 AI 任务中的幻觉发生。