Anglo

研究发现RAG系统中不存在刻板印象驱动的PII泄露

一篇新研究论文探讨了包含特定文化群体刻板印象的查询是否会导致检索增强生成（RAG）系统泄露更多个人信息。该研究审计了四种文化（盎格鲁、拉丁美洲、阿拉伯、印地语）的合成英语PII数据，在考虑了多重比较后，未发现电子邮件、电话号码或地址等敏感数据存在刻板印象驱动的放大现象。然而，研究人员警告说，结果代表“未检测到”而非“无影响”的明确证据，因为该研究仅能检测中等规模的影响，并且该指标受到提示回声伪影的混淆。