Saadeldine Eletter

新的MIRAGE防御系统可对抗长篇RAG中的虚假信息

研究人员开发了MIRAGE，一种用于检索增强生成（RAG）系统的新型防御机制，旨在对抗长篇内容中的虚假信息污染。这种无需训练且与模型无关的方法利用自然语言推理（NLI）构建跨文档声明图，以识别和过滤掉误导性或虚假信息。MIRAGE可以根据多个来源支持的证据子集来条件化生成，或者完全阻止检索，为提高RAG输出在各种基准测试和LLM上的事实准确性提供了强大的解决方案。