BEIR NFCorpus

VectorSmuggle 攻击隐藏数据于 AI 嵌入中；VectorPin 提供防御

研究人员发现了一种名为 VectorSmuggle 的新型隐写攻击向量，它允许攻击者将数据隐藏在用于 RAG 系统的向量数据库中存储的嵌入中。该方法利用了许多向量存储缺乏原生完整性控制的漏洞，使攻击者能够在保持检索功能的同时，通过简单的扰动嵌入敏感信息。为应对此问题，研究人员提出了 VectorPin，一种加密溯源协议，它使用数字签名来验证嵌入的完整性和来源，从而堵塞了此攻击向量。