embedding inversion attacks

新的SHAQ防御机制保护向量数据库免受嵌入反演攻击

研究人员开发了一种名为SHAQ（影子查询生成）的新防御机制，以保护大型语言模型使用的向量数据库中的敏感信息。该方法解决了文档嵌入容易受到嵌入反演攻击（可能重建原始文本）的漏洞。SHAQ通过使用生成式语言模型创建代表文档不同语义方面的多样化影子查询，并存储这些查询而不是直接的文档嵌入来工作。实验表明，SHAQ在保持检索效用的同时显著增强了隐私性，并且优于现有防御措施。