Behrooz Razeghin

ScoreShield 为 AI 应用中的相似度分数提供差分隐私保护

研究人员开发了 ScoreShield，这是一种新颖的机制，旨在保护在发布向量嵌入的相似度分数时的隐私。该方法解决了检索增强生成 (RAG) 和生物识别等应用中固有的信息泄露和成员推理攻击问题。ScoreShield 采用扰动后投影的方法，添加经过校准的高斯噪声，然后将结果投影到余弦对象的可行集上。与朴素的差分隐私方法相比，该技术提供了更高的效用，尤其适用于大规模发布相似度分数向量和格拉姆矩阵。