DP-style defenses

新研究提出对 RAG 隐私防御进行源级别审计

一篇题为“Mind the Hook”的新研究论文介绍了一种用于检索增强生成（RAG）系统隐私防御的源级别审计方法。提出的主动路径审计旨在通过识别检索和生成中涉及的具体管道钩子，为黑盒隐私分数提供更清晰的解释。研究发现，一些 DP 风格的防御措施仅修改检索分数，而将生成钩子留为空，这解释了它们对成员推断的影响，但并未影响生成文本泄露。然而，LPRAG 路径在电子邮件通道上得到了验证，证明了其在减少数据泄露方面的有效性。