Chuangtao Ma

新框架为基于LLM的实体匹配大幅削减RAG成本

研究人员开发了一个名为CE-RAG4EM的新框架，旨在提高使用大型语言模型（LLM）进行实体匹配任务的检索增强生成（RAG）的成本效益。该框架通过实现基于阻塞的批处理检索和生成，解决了每对检索调用带来的高计算成本和增加的token使用量问题。在九个基准数据集上的实验表明，CE-RAG4EM在匹配质量上达到了相当或更好的水平，特别是在处理属性模糊或稀疏的记录时，同时与朴素的RAG应用相比，显著降低了总体开销。