No Context at All

新研究质疑RAG在LLM事实问答中地理偏见的有效性

一项新的研究论文调查了检索增强生成（RAG）在解决大型语言模型（LLM）事实不准确性方面的有效性，特别是在上市公司方面。研究发现，RAG并不能统一补偿缺失的知识，揭示了事实问答中显著的地理偏见。即使在拥有完美上下文的情况下，性能提升也与基线准确性相关，这表明检索的有效性与模型的内部表征有关。研究还强调，模型在面对误导性上下文时，常常会复制错误信息，并且虽然更大的模型整体性能有所提高，但并未消除这些潜在的结构性问题。