GraphRAG-LTM

新框架模拟针对基于图的大语言模型问答系统的威胁

研究人员开发了GraphRAG-LTM，一个用于模拟针对基于图的检索增强生成（GraphRAG）系统威胁的新框架。该框架在三个嵌套层级测试攻击：BB Query，利用排名反馈来改变查询并减少相关的种子块；WB Query，采用检索器梯度达到相同目的；以及Graph-aware WB，删除证据图中的桥接三元组以破坏多跳推理。实验表明，即使在有限访问的情况下，这些攻击也能通过针对种子块和组装的知识图来降低答案质量并损害事实检索。