研究人员开发了一种新颖的随机投影方法,以增强检索增强生成(RAG)系统的隐私性。该技术旨在降低在使用大型语言模型(LLM)时,敏感信息从检索数据存储中泄露的风险。所提出的方法将相同的投影应用于数据存储和查询嵌入,可证明地保持语义相似性,同时提供针对数据提取攻击的显著保护。实证结果表明,这种轻量级方法在检索和生成性能方面均优于先前的方法。 AI
影响 这项研究为保护AI检索系统中敏感数据提供了一种更实用、更有效的方法,有望加速RAG在注重隐私的应用中的普及。
排序理由 关于AI系统隐私新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- differential privacy
- Hugging Face
- large-language models
- random projection
- retrieval-augmented generation
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →