Sensitive Entity Alias Generator

新的SEAG框架通过掩盖敏感数据增强RAG隐私

研究人员开发了一个名为敏感实体别名生成器（SEAG）的新框架，以增强检索增强生成（RAG）系统中的隐私。SEAG解决了外部大型语言模型（LLM）可能滥用用户查询或检索文档中存在的敏感信息的问题。该框架使用一个轻量级模型来识别敏感实体，用别名替换它们，并创建一个替换表。然后，在将敏感数据发送到外部生成器之前，使用此表来掩盖敏感数据，确保机密信息得到保护。实验表明，SEAG模型在隐藏敏感数据的同时提供正确响应方面达到了80%以上的准确率，…