HetDocQA

RAG 研究强调检索改进而非模型进步

近期研究强调了检索增强生成（RAG）系统中检索的关键作用，表明改进检索方法比改进生成模型本身更具影响力。研究将人类记忆检索与 RAG 系统进行比较，发现虽然两者在关联增加时都表现出对数精度下降，但人类的干扰敏感度较低。进一步的研究表明，虽然强大的重排器至关重要，但在强大的重排器到位后，许多先进的 RAG 检索增强在异构数据上的收益很小。RAG 流水线的有效性在很大程度上取决于复杂的块策略、查询重写和代理检索循环，而不是仅仅依赖于 LL…