新的SEAG框架通过掩盖敏感数据增强RAG隐私

研究人员开发了一个名为敏感实体别名生成器（SEAG）的新框架，以增强检索增强生成（RAG）系统中的隐私。SEAG解决了外部大型语言模型（LLM）可能滥用用户查询或检索文档中存在的敏感信息的问题。该框架使用一个轻量级模型来识别敏感实体，用别名替换它们，并创建一个替换表。然后，在将敏感数据发送到外部生成器之前，使用此表来掩盖敏感数据，确保机密信息得到保护。实验表明，SEAG模型在隐藏敏感数据的同时提供正确响应方面达到了80%以上的准确率，其中Qwen-3、LLaMA-3.2和Phi-4等特定模型在掩盖实体方面表现强劲。 AI

影响 通过在检索增强生成过程中保护敏感数据，增强了LLM应用程序的隐私。

排序理由 该集群包含一篇学术论文，详细介绍了RAG系统隐私的新框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• large-language models
• LLaMA-3.2
• Phi-4
• Qwen 3
• retrieval-augmented generation
• Saleh Almohaimeed
• Seagate Technology
• Sensitive Entity Alias Generator

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →